Significados: la IA no puede comprenderlos

“Basta con nombrar la cosa para que aparezca el significado bajo el signo.”

―  Léopold Sédar Senghor

Desde que nacemos, lo humanos tratamos de darle significado, y en efecto le damos significado, a casi todo lo que existe, y, es algo que simplemente aprendemos, es innato en nosotros.  No pasa igual con la inteligencia artificial (esa que nos asombra, nos asusta y nos han vendido como apocalíptica.) que es incapaz de manejar los significados, utiliza símbolos que en su propia naturaleza no tienen significado.  ¿Cómo? Sí, los símbolos son construcciones, representaciones de ideas.

Las computadoras (cerebros digitales) usan símbolos (sistemas simbólicos) para procesar, no trabajan con significados. Los significados son básicos para que podamos comprender. La comprensión está relacionada con el grado de inteligencia que se les atribuye a los individuos. Inteligencia se relaciona directamente con comprensión, de forma que lo que estamos llamando inteligencia artificial no es realmente inteligente.  

¿Símbolos?

Wikipedia menciona que un símbolo “es la representación perceptible de una idea, con rasgos asociados por una convención socialmente aceptada. Es un signo sin semejanza ni contigüidad, que solamente posee un vínculo convencional entre su significante y su denotado.”

De igual manera, indica que un símbolo es una figura retórica de pensamiento, por medio de la cual, una realidad o concepto normalmente de carácter espiritual se expresa por medio de una realidad o concepto diferente, entre los que se establece una relación de correspondencia, de modo que al nombrar el concepto simbólico se sugiere o se evoca el concepto real.

“Aprendemos lo que significan las cosas a partir de nuestra cultura y educación individual.”

―John Grinder

No nos compliquemos, busquemos ejemplos de la multiplicidad de símbolos que usamos a diario.:

  • Los iconos de su teléfono móvil
  • Los colores del semáforo
  • Los símbolos patrios
  • La bandera blanca

Todos los significados de los ejemplos, llegan a nosotros por aprendizaje, por experiencia y una vez están en nuestro cerebro somos capaces de decodificar y comprenderlos, hacer cruces mentales para darle un significado de acuerdo a una realidad o contexto.

Una de las maneras más sencillas de comprender cuan importante es la comprensión, se da con los padres primerizos, con el tiempo y la experimentación, aprenden a interpretar los llantos de su bebé, algo que otros no podemos hacer igual.

El mensaje enviado no es siempre el mensaje recibido

―Virgina Satir

Un principio básico de la comprensión se presenta cuando consideramos que no todo significa lo mismo para todas las personas, porque cada cual tiene un punto de vista, su cosmovisión, su propia interpretación, sus limitantes para una persona en un lugar del mundo, un símbolo puede representar algo, para otra quizás no, algo puede ser muy valioso para otra no. Y aún con los temas estandarizados, siempre habrá una interpretación y comprensión muy personal.

Los significados de los símbolos

Un significado es el sentido de una palabra o de una frase (lo que se interpreta, lo que representa, lo que se entiende). Es la manera en la que se ha de entender un objeto, situación o definición. Y a su vez es el contenido semántico (lingüística) de cualquier tipo de signo, condicionado por el sistema y por el contexto de lo expresado.

Al no tener en sí mismos significados los símbolos importan de afuera, desde el exterior ese significado para intentar entender algo, con la limitación de que es imposible tomar un significado y traerlo al sistema como un símbolo (hasta ahora, el significado no puede importarse en forma de símbolos, porque estos nuevos símbolos volverían a requerir interpretación, una espiral sin fin.)

“Symbol grounding”: En la ciencia cognitiva y la semántica, el problema de conexión a tierra de los símbolos pregunta cómo es que las palabras adquieren sus significados y, por lo tanto, está estrechamente relacionado con el problema de qué significa realmente

La cultura y la comprensión

Para comprender, desde el punto de vista de los humanos, los condicionantes culturales entran en juego, y estos son muchos, por lo que sigue estando lejana la comprensión en el contexto de las máquinas por su naturaleza intrínseca.

Una mente no puede entenderse sin la cultura ―Lev Vygotsky Clic para tuitear

El autor de la frase que citamos nos indica que la mente ni el aprendizaje pueden entenderse sin la cultura, pues ésta tiene una gran influencia en nuestro desarrollo.

La información que se divulga en medios sobre productos de inteligencias artificiales que simulan a las de las películas de ciencia ficción distan mucho de la realidad, por lo pronto, debemos pensar en conocer, con propiedad, como funcionan para hacernos una idea de la complejidad de la inteligencia de la que hacemos gala los humanos promedio.

Imagen: Pixabay

Escrito por: Msc. Irasema Rivas-González

Proyecto LEIA: Lengua Española e Inteligencia Artificial

“Los límites de mi lenguaje son los límites de mi mundo.”

―Ludwig Wittgenstein

Durante los últimos años hemos sido testigos de la proliferación de contenidos en la red, contenidos desarrollados en los dos principales idiomas que se hablan en el mundo.  Una de las grandes interrogantes sobre esta situación se establece por la deformación del idioma con las múltiples faltas ortográficas, composición y estructura deficiente que se ha ido aceptando.

“El lenguaje es una forma de la razón humana y tiene sus razones que son desconocidas para el hombre.” ―  Claude Lévi-Strauss

Ante la posibilidad de que los asistentes personales que utilizan el aprendizaje automático y gran cantidad de bases de datos para generar frases y poder comunicarse con humanos (que en gran parte utilizan un idioma deficiente) estuviesen aprendiendo sin reglas y repitiendo esos errores, las grandes tecnológicas del mundo y la RAE se unieron para darle una respuesta: LEIA el proyecto de defensa para el buen uso de nuestro idioma en un mundo cada vez más volcado a la red.

LEIA, no la de Star Wars

Lleva el mismo nombre del personaje femenino de la saga de ciencia ficción donde se presentó la relación inteligencia artificial-humanos como algo normal en un futuro que parecía lejano, pero no se refiere a lo mismo.

El objeto de LEIA (Acrónimo de Lengua Española e Inteligencia Artificial) es la defensa, proyección y buen uso de la lengua española en el ámbito de la inteligencia artificial (IA) y las tecnologías actuales.

Se juntaron para colaborar con la RAE en este proyecto de protección de uno de los legados inmateriales de la cultura iberoamericana más importante, empresas líderes de tecnología:

  • Google
    Amazon
  • Twitter
  • Telefónica
  • Facebook

Empresas que han invertido e invierten grandes sumas de dinero al desarrollo de sus asistentes Aura, Cortana, Alexa, todas estas utilizan IA para que sus servicios les permitan enfocarse en la satisfacción de sus clientes.

No hay comunicación de inteligencia artificial (asistentes) sin uso de un elemento común, que es indudablemente el lenguaje. Y dada la importancia y la responsabilidad con respecto al futuro del idioma las empresas se unieron para velar y fomentar el uso correcto de la lengua española siguiendo las normas de la Real Academia de la Lengua. Asegurándose como lo hacen las empresas que hacen lo propio en países anglosajones, de que se las reglas sean cumplidas y divulgadas.

«La pluma es la lengua del alma.»  ―Miguel de Cervantes

¿Son necesarias las reglas en el español de la red?

Para todos es conocido que el mundo cambió con las nuevas tecnologías y cambiará, cada vez más, con la inteligencia artificial. Y todos sabemos que consumimos mucha información escrita o hablada, fundamentada en el lenguaje que compartimos, que está siendo utilizado incorrectamente. 

Imagínese que los niños que están aprendiendo a hablar (que no han tenido exposición a normas y reglas estrictas del lenguaje) tengan mas interacción que antes con asistentes virtuales, cuyos repositorios de datos y palabras, se encuentren llenos de malas prácticas en el uso del lenguaje, nos corremos el riesgo de que aprendan de una fuente errada y con ello, desvirtuamos el idioma que se hablará en un futuro (emoticones y frases cortadas, palabras erradas, etc.)

Por otra parte, en las grandes ciudades donde se desarrollan agentes conversacionales y se realiza investigación de tecnología el idioma que prolifera (idioma comercial y científico) es sin lugar a dudas el inglés, estamos corriéndonos el riesgo de que se limite a los hispano-parlantes a esas nuevas tecnologías y recursos investigativos.

No es exclusivo ni excluyente

El proyecto está abierto a todas las empresas tecnológicas que quieran sumarse, por lo que esperamos ver a futuro, más nombres en este listado.

Entre los firmantes de este pacto de colaboración y proyecto ambicioso encontramos que todos se comprometen a utilizar los corpus lingüísticos, diccionarios, reglas vigentes (semántica, gramática, ortografía, morfología) y futuras de la RAE para el desarrollo de sus asistentes de voz, procesadores de texto, buscadores, sistemas de mensajería instantánea, redes sociales y más. 

Apuestan a que el uso correcto del español, guiados por la Real Academia Española, sea el estándar en sus productos y servicios. Y dejan constancia de ello con sus palabras:

«Estamos en un momento crucial en el que tenemos que hacer algo que hicieron nuestros antecesores del siglo XVIII (con los humanos): normativizar la lengua de las máquinas y de la inteligencia artificial (IA). Su lengua tiende a diversificarse y hay que tomar medidas. La IA habla inglés, fundamentalmente, y tenemos que procurar que, poco a poco, el español coja una posición eminente en el mundo de la IA, pero también en el mundo general de las redes»

―  Santiago Muñoz Machado, director de la RAE y presidente de la ASALE

“Estamos expuestos a una avalancha tecnológica sin precedentes, tenemos que asegurarnos de que la inteligencia artificial no solo hable español para que sea una tecnología inclusiva de la que se beneficien todos los hispanohablantes, sino que además lo hable correctamente. Por ello es muy positivo que a través de LEIA ahora podamos aprovecharnos de todos los recursos lingüísticos de la RAE”.

Chema Alonso, Telefónica

«A diario millones de personas acuden a Twitter para ver y comentar lo que está pasando, y con su conversación dar forma a nuestra cultura. Por ello, apostamos por el cuidado de la lengua española y por facilitar que la conversación en Internet tenga lugar desde la corrección y el cuidado que merece una de las lenguas más extendidas. Nuestros esfuerzos irán dirigidos a apoyar a todos nuestros usuarios ofreciéndoles herramientas que les permitan conversar desde el buen hacer y la corrección, y complementen el apoyo que ya se realiza desde la cuenta de la RAE». 

Nathalie Picquot, directora general de Twitter España y Portugal.

No olvidemos que “José María Álvarez-Pallete, presidente de Telefónica, en el VIII Congreso Internacional de la Lengua Española celebrado en Córdoba, Argentina, el pasado 27 de marzo, alertó, durante su intervención, de la rápida evolución de la tecnología y subrayó la importancia de favorecer el uso del español en esta tecnología, para que no quede relegada a un segundo plano frente a otros idiomas como el inglés, y de entrenar a los algoritmos con los datos adecuados para preservar así el uso de un correcto español.”

Con el proyecto LEIA (Lengua Española e Inteligencia Artificial) se pretende, según Muñoz Machado, velar por el buen uso de la lengua española en las máquinas y aprovechar la inteligencia artificial para crear herramientas que fomenten el uso correcto del español en los seres humanos.

Se marca un precedente importante, el lenguaje es básico para la tecnología y las grandes empresas de tecnología lo saben, con ellos las Academias de la Lengua, del mundo hispanohablante, estarán aportando para que ese bien común se respete en el ecosistema digital.

Imagen: Pixabay

Referencias consultadas

https://www.telefonica.com/es/web/sala-de-prensa/-/la-rae-presenta-el-proyecto-lengua-espanola-e-inteligencia-artificial-leia-en-el-xvi-congreso-de-la-asale

https://www.infobae.com/america/cultura-america/2019/11/08/que-es-leia-el-acuerdo-entre-la-rae-y-6-empresas-tecnologicas-para-velar-por-el-buen-uso-de-la-lengua-espanola/

Escrito por: Msc. Irasema Rivas-González

Inteligencia artificial: inteligencia y conciencia no son lo mismo

“De qué nos vale el tener inteligencia, si no aprendemos a usar la conciencia.”

―  Ruben Blades

La inteligencia artificial que nos sorprende a diario es «especializada», por más que usted se admire de una mano robótica que soluciona un cubo Rubik en segundos y con precisión, por más que se asombre de que la última actualización de un auto TESLA tenga el servicio de Valet Parking para que recoja en la puerta cochera y usted no se desplace, y aun cuando es funcionalismo el traductor de Google ( que traduce palabra por palabras, pero no comprende ni se maneja con contextos), todas estas funciones de la Inteligencia Artificial son estrechas o especializadas.

Las máquinas cumplen tareas específicas (entrenadas por un humano o aprendiendo de millones de datos BIG DATA que pueden revisar en fracciones de segundos y seguir patrones con la precisión que no tendría una persona que tiene inteligencia natural general y es como todos lo somos, imperfecta.) para las que fueron desarrolladas, no pueden ni desarrollan su inteligencia múltiple como lo hace un niño pequeño hasta que se hace adulto, que aprende, hace varias cosas “bien o a medias” a la vez.

Lo que nos está maravillando en las conferencias, al ver las noticias, los medios masivos y la red (infoxicados, pero aun desconociendo a cabalidad lo que en realidad es inteligencia artificial) son las aplicaciones que usaron el ingenio humano (porque todo lo que hay en IA fue creado por un congénere) en forma de Inteligencia artificial.

No olvide que los artífices de la IA fueron, y son, personas capaces de imaginar y desarrollar los algoritmos que permiten que existan vehículos autónomos, asistentes personales, reconocimiento facial, predice patrones que se aplican a diagnósticos y estudios médicos, juega ajedrez, videojuegos, detecta fraudes, selecciona perfiles y más. Todas son tareas repetitivas, especializadas, que requieren precisión, muchos datos y son tediosas para el humano. Y no abarcan completamente la definición propia de inteligencia

Definición de inteligencia

Es una capacidad mental “general” que involucra habilidades muy particulares:

  • Comprensión de ideas complejas
  • Razonamiento
  • Resolución de problemas
  • Aprendizaje rápido
  • Aprendizaje por experimentación
  • Aprendizaje por experiencia (ensayo y error)
  • Comprensión del entorno

La inteligencia hace gala de una capacidad de capturar el significado de las cosas, darles sentido y de utilizar, cuando así se requiere la imaginación para hacer o no hacer algo, en una determinada situación (autonomía y respuesta frente a lo desconocido) en la que se encuentre el agente inteligente.

La inteligencia va más allá de habilidades académicas, aprendizajes específicos, es esa cualidad que nos permite estar aquí y hacer lo que hacemos a diario.  

Inteligencia y conciencia no son lo mismo, un comportamiento inteligente no tiene por obligación que ser consciente y viceversa.  Las máquinas pueden hacer cosas “inteligentes” pero no pueden ser “conscientes”

Definiendo conciencia:

Es un sentido de lo que está bien o lo que deja de estarlo, pero también es, «la capacidad de representarse reflexivamente a uno mismo», es estar anuentes de que no estamos anuentes de algún proceso que de forma no consciente lleva a cabo nuestra mente (parece un trabalenguas más no lo es), la conciencia no la tienen las máquinas que nos emulan.

Leyendo el paper titulado ¿Qué es la conciencia, y podrían las máquinas tenerla? Encontramos estas consideraciones que explican de forma sencilla que: “la conciencia combina dos tipos diferentes de cálculos de procesamiento de información en el cerebro: “la selección de información para la transmisión global, lo que la hace flexiblemente disponible para computación e informe y el autocontrol de esos cálculos, lo que lleva a un sentido subjetivo de certeza o error.”[1]

En el procesamiento inconsciente es donde reside la mayor parte de nuestra inteligencia humana, que, no olvidemos, es general.

«No podemos ser conscientes de lo que no somos conscientes»

“Este truismo (verdad obvia) tiene profundas consecuencias. Debido a que somos ciegos a nuestros procesos inconscientes, tendemos a subestimar su papel en nuestra vida mental. Sin embargo, los neurólogos cognitivos desarrollaron diversos medios de presentación de imágenes o sonidos sin inducir ninguna experiencia consciente y luego se usa formación de imágenes de comportamiento y el cerebro para sondear su profundidad de procesamiento.”[2]

 “La conciencia es un destello de la pureza del estado primitivo del hombre.” ― Sir Francis Bacon Clic para tuitear

¿Pueden ser las máquinas conscientes?

“La controvertida pregunta de si las máquinas pueden ser conscientes debe basarse en una cuidadosa consideración de cómo surge la conciencia en el único sistema físico que sin duda lo posee: el cerebro humano. Argumentamos que, a pesar de sus éxitos recientes, las máquinas actuales todavía están implementando principalmente cálculos que reflejan el procesamiento inconsciente en el cerebro humano. Revisamos la ciencia psicológica y neuronal de los cálculos inconscientes y conscientes y describimos cómo pueden inspirar nuevas arquitecturas de máquinas.”

Aunque la IA ha tenido un éxito considerable en la resolución de problemas específicos, implementar múltiples procesos en un solo sistema y coordinarlos de manera flexible siguen siendo problemas difíciles para las máquinas no así para los humanos.

Nos admira, pero la Inteligencia Artificial no es consciente, aunque es ¡inteligente a medias!

Imagen:Pixabay

Bibliografía:

https://www.elmundodelsuperdotado.com/que-es-la-inteligencia/

https://science.sciencemag.org/content/358/6362/486.full

https://science.sciencemag.org/content/sci/358/6362/486.full.pdf


[1] ¿What is consciousness, and could machines have it? By STANISLAS DEHAENE, HAKWAN LAU, SID KOUIDER.SCIENCE27 OCT 2017 : 486-492

[2] ¿Qué es la conciencia, y podrían las máquinas tenerla? By STANISLAS DEHAENE, HAKWAN LAU, SID KOUIDER.SCIENCE27 OCT 2017 : 486-492

Escrito por: Msc. Irasema Rivas-González

Tecnofilosofía: métricas del tiempo bien invertido

“No existe nada bueno ni malo, es el pensamiento humano el que lo hace parecer así.”

― William Shakespeare

Al enfrentarnos a un nuevo conocimiento la propia naturaleza humana nos hace reflexionar, las preguntas y los hallazgos son parte usual del proceso. De hecho, en la vida tenemos incertidumbres, conflictos y dudas. Nuestros dilemas nos hacen pendular entre posiciones y elegimos sesgados.

Iniciar una conversación sobre tecnología con una interrogante que inicie con la palabra cómo, es lo más común. ¿Cómo? ¿Cuándo? ¿Para qué? ¿Por qué?, la aplicación de moda puede hacer lo que hace, es parte de las tantas preguntas que vienen a la mente. Hacemos las mismas preguntas cuando vemos funcionar a un agente artificial en un video, solo que no le ponemos mucha atención porque es un proceso automático (nunca se detiene a preguntarse la razón por la que hace preguntas, simplemente las hace.)

Intentar responder esas preguntas y comprender la razón de la vida a través del pensamiento y la reflexión profunda es tarea de la filosofía.

Disciplina milenaria que surge de la reflexión de las facetas más importantes de la vida humana. Trata de dar respuesta a preguntas que los humanos han formulado desde siempre ¿Dónde estamos? ¿En un mundo o un matriz? ¿Por qué vivimos? ¿Tiene algún propósito? ¿Adónde vamos? ¿Hay vida más allá de la que conocemos? ¿Cómo cambia la vida con la Inteligencia Artificial? ¿Nos dominaran los robots? ¿Qué futuro nos espera? Quizás la pregunta más difícil de responder es ¿Quién soy?, interrogante que dada la gran cantidad de información a la que nos exponemos a diario, y que nos hace creer saberlo todo, no estamos logrando responder correctamente.

Filosofía intenta explicar la tecnología

Al hacer comunión, la Filosofía y Tecnología surge la llamada «Tecnofilosofía» que busca abordar los fenómenos de la cultura digital desde la perspectiva del pensamiento utilizando los hallazgos y guías propias de disciplinas tales como: Filosofía, sociología, neurociencias, filología, así como otras áreas de las humanidades que brindan claridad sobre las cuestiones de la vida que afectan tanto el espectro individual como el social.

La tecnología afecta a las personas, existe porque el ser humano está en búsquedas de comodidad, de facilitar la vida, de mejorar su calidad y de responder preguntas, con ello, aprovechar su inteligencia para desarrollar nuevas herramientas que le permitan enfocarse en lo realmente importante.

Y, como todo desarrollo humano tiene un origen imperfecto e inteligente, es necesario que comprendamos qué, tras toda tecnología hay intereses humanos y están, por ende, reflejados los valores y los sesgos propios de las personas.

Por otro lado, encontramos que los intereses de los que financian las tecnologías y sus estudios, van a privar sobre el bien común, porque es un comportamiento humano natural, obtener beneficio para si primero y luego para los demás.

Es así como, la Tecnofilosofía busca explicar las razones fundamentales de esta nueva «Era Tecnológica» que nos envuelve, con un aluvión de información que difícilmente podremos procesar y utilizar durante toda la vida. 

“La verdadera sabiduría está en reconocer la propia ignorancia.” ― Sócrates Clic para tuitear

La información los datos generados durante los primeros 19 años del siglo XXI son demasiados, los datos capturados y almacenados en la nube (Big Data) durante los últimos cinco años son inconmensurables para una persona.

Nuestro tiempo limitado debería invertirse de forma correcta y esto incluye el uso que le damos a los artefactos tecnológicos en nuestro diario vivir.

Estudiemos pues, aprendamos y sigamos atentos a la tecnología y su impacto en nuestras vidas y sociedades.

Referencias consultadas:

http://www.injuve.es/sites/default/files/Revista102_0.pdf

Escrito por: Msc. Irasema Rivas-González

Inteligencia Artificial: el valle inquietante

“Con el tiempo odiamos lo que a menudo tememos.”

―William Shakespeare

¿Ha escuchado hablar de la hipótesis de El valle inquietante? Si no la ha escuchado, no se preocupe muchas personas la desconocen, pero a medida que la Inteligencia Artificial se hace más presente en nuestras vidas es bueno saber de que trata.  

La hipótesis fue desarrollada para dar respuesta a las interrogantes que surgen de la relación que tenemos con los robots, y aunque ya tiene 49 años de existencia, es ahora que está tomando mayor relevancia.

Hay una delgada línea entre ternura y miedo. Cuando vemos un objeto, sentimos atracción o repulsión de inmediato.

Hipótesis del Valle Inquietante

Esta hipótesis propone que cuando la apariencia de un robot es más humana, la respuesta emocional de un observador humano al robot se irá haciendo cada vez más positiva y empática, hasta cruzar un punto a partir del cual la respuesta se vuelve una fuerte repugnancia.  

En palabras más claras, los robots que se parecen a nosotros generan aceptación, empatía, pero, estas emociones no duran, llega un momento en que nos molestan. ¿Por qué sucede?

Propone también qué, cuando la apariencia del robot continúa convirtiéndose menos distinguible de la de un ser humano, la respuesta emocional se vuelve positiva una vez más y se va aproximando a niveles de empatía como los que se dan entre humanos. ¿Qué nos hará reaccionar así?

Hipótesis. Gráfico

Surgimiento del nombre

Al valle o bache en la respuesta generada, en este caso repulsiva entre un robot con apariencia y comportamientos «casi humanos» y una entidad «totalmente humana» (persona) es lo que su creador el japonés   Masahiro Mori   denominó “valle inquietante”.

Surge de la idea de que un robot que es «casi humano» (androide), es visto de forma general por un ser humano como «extraño» y por esto resulta imposible alcanzar el requisito de una respuesta empática para la necesidad de una interacción humano-robot productiva.8

La línea delgada entre las emociones positivas y el miedo que sentimos, la atracción o la repulsión hacia los robots hace que a medida que el diseño se parezca más a los humanos, la mayoría de las personas comienzan a sentir cada vez más miedo de ellos.

Primero sentimos algo de empatía y atracción hacia un objeto humano (artificial); pero un pequeño cambio de diseño, y de repente estamos llenos de miedo y repulsión. «valle misterioso»

El valle inquietante —del inglés: uncanny valley— es una hipótesis en el campo de la robótica​ y animación por computadora en 3D​ que afirma que cuando las réplicas antropomórficas se acercan en exceso a la apariencia y comportamiento de un ser humano real, causan una respuesta de rechazo entre los observadores humanos. El «valle misterioso» mide el componente positivo en la reacción de las personas según el parecido humano del robot.

En este punto es bueno recordar que el miedo es una emoción primaria derivada de la aversión natural al riesgo, a la amenaza, a lo desconocido y se manifiesta tanto en los seres humanos y animales. (Los animales no reaccionan igual frente a un humano que frente a un robot)

¿Quién es Masahiro Mori?

Es un doctor y profesor experto en robótica de 92 años, es especialista en robótica y presidente emérito de la Sociedad de Robótica de Japón. Mori es el fundador de Robocon, el concurso de robótica que inició en 1981 cuando era profesor en el Instituto de Tecnología de Tokio.

Robocon es el concurso robótico más famoso y extendido del mundo, realizado en tantos lugares del mundo que nadie parece saber el número exacto de participantes. En Japón, más de 3.000 escuelas intermedias, todas las escuelas técnicas y la mayoría de las universidades tienen sus propios concursos; mientras que el concurso de robots de Asia y el Pacífico (ABU Robocon) se transmite a más de 200 millones de personas por televisión.

Masahiro Mori no solo es el «padre» de todos los Robocons que existen, también es el «abuelo» de la mayoría de los robots japoneses, incluido Asimo, el robot humanoide de Honda desarrollado por Toru Takenaka, uno de los estudiantes de Mori.

La figura de Mori es tan influyente en el mundo de la robótica que casi es inconmensurable. Su hipótesis clásica, «The Uncanny Valley», publicada en 1970, sigue siendo una obra clave que define el diseño robótico.

20 Jul 2006, Kyoto, Japan — Robotics scientist Dr. Hiroshi Ishiguro poses with «Geminoid,» a prototype of a Doppelganger-type android, modeled after himself, at the ATR Intelligent Robotics and Communication Laboratories. Geminoid, named after the twin gods Gemini, is the first android to be modeled after a real person, which includes subtle body movements and personality traits of the individual. The android will be used to research questions such as how to capture, revive, and transmit a living person’s «sense of presence,» or atmosphere, into an android «twin.» The results of the study will increase our understanding of human nature, and enable androids to achieve a higher level of interaction with human beings, according to Dr. Ishiguro. The Osaka University professor plans to use the Geminoid as a «stand-in» during remote conferences and meetings. | Location: Keihanna Science City, Kyoto, Japan. — Image by © Everett Kennedy Brown/epa/Corbis

En agosto de 2005, Masahiro Mori realizó unos breves comentarios sobre su teoría para el taller «Humanoids 2005»,​ celebrado en Tsukuba, Japón. Comentarios que explican que el punto más alto de la curva después del valle no debería ser un humano sano, sino quizás el concepto idealizado de la imagen que tenemos de un ser humano sano. Y pone de ejemplo representaciones en piedra de Buda, que generan sentimientos de empatía y sosiego. Esto podría ser trasladado en occidente por ejemplo en las esculturas de mármol de la Grecia clásica, donde se pretende representar la perfección de las formas y la belleza del ser humano.

También se preocupa por el hecho de que observar las facciones de una persona fallecida nos trasmite un sentimiento de tranquilidad, cuando esta imagen nos debería situar justo dentro del Valle Inquietante.

Quien fuese en ese entonces un profesor de robótica en el Instituto de Tecnología de Tokio, escribió un ensayo sobre cómo imaginaba las reacciones de las personas a los robots que parecían y actuaban casi como lo hacemos los humanos. El ensayo apareció en una revista japonesa llamada Energy en 1970, casi no recibió atención.

Como suele pasar con el pasar de los tiempos, el concepto del valle misterioso ha atraído rápidamente el interés en la robótica y otros círculos científicos, así como en la cultura popular. Algunos investigadores han explorado sus implicaciones para la interacción humano-robot y la animación de gráficos por computadora, mientras que otros han investigado sus raíces biológicas y sociales. Ahora el interés en el valle misterioso se intensifica, a medida que la tecnología evoluciona y los investigadores construyen robots que lucen cada vez más humanos.

¿Cómo es su reacción a los robots con apariencia humana? Ya conoce el valle misterioso, le será más sencillo comprender las emociones que generan en usted esos agentes artificiales cuando tenga la oportunidad de tener uno frente a usted como algo cotidiano.

[1] Mori, Masahiro & MacDorman, Karl & Kageki, Norri. (2012). The Uncanny Valley [From the Field]. IEEE Robotics & Automation Magazine. 19. 98-100. 10.1109/MRA.2012.2192811.

Imagen: Pixabay

Referencias consultadas:
Disponible en: https://www.elconfidencial.com/alma-corazon-vida/2018-06-21/andrew-smart-robots-psicodelia-conciencia_1581609/
Disponible en: https://www.japantimes.co.jp/life/2011/03/10/people/robocon-founder-dr-masahiro-mori/#.XbitcppKjIU
Disponible en: https://www.titech.ac.jp/english/news/research/index_21.html
Dispnible en: https://spectrum.ieee.org/automaton/robotics/humanoids/the-uncanny-valley

Escrito por: Msc. Irasema Rivas-González

Los algoritmos no tienen conciencia

«La gente no debería enfocarse en la pregunta sobre cómo detener el progreso de la tecnología porque es imposible»

― Yuval Noah Harari

El filósofo y académico dedicado a la historia Yuval Noah Harari , sugiere que en lugar de tratar de detener la tecnología lo que debemos hacer es preguntarnos ¿Cuál es el tipo de uso que se puede dar a esa nueva tecnología? Lo que nos permitiría, como sociedad, lograr reencaminar la dirección que está tomando el uso y la guerra fría que está soslayada tras todos los avances que cambiaran nuestras vidas.

Leyendo el libro «21 lecciones para el siglo XXI», me encontré con este párrafo que me hace reflexionar y considero que toda persona interesada en desarrollo de páginas web y en su futuro debería leer:

Leer y aprender cada día es una de las recomendaciones para afrontar este siglo de cambios tecnológicos con éxito. Clic para tuitear

“Ya hoy en día ordenadores y algoritmos están empezando a funcionar como clientes además de como productores. De forma parecida, en el negocio de la publicidad el cliente más importante de todos es un algoritmo: el algoritmo de búsqueda de Google. Cuando la gente diseña páginas web, a menudo satisface el gusto del algoritmo de la búsqueda de Google en lugar del gusto de un ser humano.

“Evidentemente, los algoritmos no tienen conciencia, de modo que, a diferencia de los consumidores humanos, no pueden disfrutar de lo que compran, y sus decisiones no están condicionadas pro sensaciones y emociones.”

Una radiografía de lo que está sucediendo, y que “todos”, “sin cuestionar” damos por hecho ¿Por qué no puede ser de otra manera? Una sola empresa tiene a su cargo la administración de los datos del mundo.

El libro de Yuval analiza el mundo actual y advierte sobre la revolución de las tecnologías disruptivas. El autor considera que la ciencia nos va a proveer de instrumentos para que todas las decisiones equivocadas (propias de los humanos imperfectos) desaparezcan y plantea que el mundo va a cambiar radicalmente gracias a los algoritmos, el big data y la inteligencia artificial. Lo que nos hace preguntarnos ¿en manos de quién están las decisiones y los controles de estas tres tecnologías que mueven al nuevo mundo? ¿Qué ética y valores tienen quienes programan y desarrollan las tecnologías que estamos consumiendo?

El lenguaje

El lenguaje es otro de los temas sobre los que el filósofo reflexiona y nos hace pensar en otro de sus libros.

“Nuestro lenguaje es asombrosamente flexible. Podemos combinar un número limitado de sonidos y señales para producir un número infinito de frases, cada una con un significado distinto. Por ello podemos absorber, almacenar y comunicar una cantidad de información prodigiosa acerca del mundo que nos rodea.”

― Yuval Noah Harari. Sapiens. De animales a dioses. (2014)

Leer a Harari no es algo que hacemos aisladamente, el filósofo y profesor de historia de la Universidad Hebrea de Jerusalén es un gurú admirado por las élites de Silicon Valley.  De él autor dicen: «Yuval es la personalidad anti Silicon Valley. No usa celular y pasa mucho tiempo en contemplación desconectado de la red.” Y como si fuera poco es admirado por Marc Zuckerberg y Bill Gates, quienes no dejan de recomendar sus libros:

  • Homo Deus. 2011
  • Sapiens. 2014
  • 21 lecciones para el Siglo XXI. 2018
  • Money. 2018

Citamos al filósofo de moda, no por la moda, lo citamos en este artículo para recomendarle prestar más atención a las humanidades, a la filosofía y a lo que realmente nos hace humanos, porque es lo único que nos permitirá navegar con facilidad los entornos VUCA que comenzamos a enfrentar.

Imagen: Pixabay

Referencias Consultadas:

https://www.bbc.com/mundo/noticias-46203921

Escrito por: Msc. Irasema Rivas-González

Algoritmos culturales

«Quien controla los medios, controla la cultura.»

―  Allen Ginsberg «Muerte y fama» (1999)

¿Algoritmos culturales? Sí, leyó bien, existen, están muy presentes en nuestras vidas y rutinas diarias y deberían ser considerados cuando nos enfrentamos a decisiones de implementación de nuevas tecnologías y temas de Transformación Digital.

Un algoritmo es, en suma, según bien define Wikipedia: “En matemáticas, lógica, ciencias de la computación y disciplinas relacionadas, un algoritmo ​ es un conjunto de instrucciones o reglas definidas y no-ambiguas, ordenadas y finitas que permite, típicamente, solucionar un problema, realizar un cómputo, procesar datos y llevar a cabo otras tareas o actividades.”

La app de la RAE lo describe así: “Conjunto ordenado y finito de operaciones que permite hallar la solución a un problema.”

La cultura, por su parte, es un conjunto de conocimientos que permite a los individuos desarrollar su juicio crítico. Este conjunto incluye los modos de vida, las costumbres, los conocimientos, los desarrollos artísticos, científicos e industriales de un grupo social durante una época determinada.

Relacionando ambos conceptos algoritmo + cultura, vamos llegando a un acercamiento que nos permite (con buena investigación de por medio) comprender la interrelación existente, y descubrir que los algoritmos culturales tienen un rol importante en la gestión de desarrollo de nuevas tecnologías que afectan la vida en sociedad.

Algoritmos culturales

Creados por Robert G. Reynolds, como un complemento a la metáfora (traslación del sentido de una voz a otro figurado, en comparaciones tácitas.) que usan los algoritmos evolutivos.  Las sociedades y los humanos tienen inmersas en sus rutinas algoritmos culturales.

Los algoritmos culturales tienen dos niveles:

  • El nivel micro-evolutivo, que consiste en el material genético heredado.
  • El nivel macro-evolutivo, que es el conocimiento adquirido por los individuos, y que sirve para guiar el comportamiento de una población.

Y estos algoritmos culturales a su vez, se mueven en dos espacios:

  • El espacio de la población.
  • El espacio de creencias.

Se intercambia información entre los espacios mediante un protocolo de comunicación (aquí entran los lenguajes).

 “Cada cultura absorbe elementos de las culturas cercanas y lejanas, pero luego se caracteriza por la forma en que incorpora esos elementos.”
― Umberto Eco

¿Le suenan conocidas las palabras/verbos aceptar, ajustar, cambiar, salir, seleccionar y elegir en el contexto de la red? Tiene una razón de ser así. Y se relaciona con comportamientos humanos que se supeditan a la influencia y dar instrucciones, instrucciones que seguimos (condicionamiento) para obtener un resultado u objetivo.

“En temas de tecnología y de literatura todo, todo tiene una intencionalidad.”

Los algoritmos culturales tienen ocho componentes. la siguiente ilustración observamos la representación de un algoritmo cultural.

Algoritmos culturales conocidos

Las recetas de cocina, sí, las recetas culinarias son algoritmos culturales o memes (No nos referimos a los memes de las redes sociales, no los la trivialidad nos ha hecho creer que son los únicos que existen).”

No lo decimos sin base, Mateo Valero Cortés, director del Centro de Supercomputación de Barcelona (BSC por sus siglas en inglés) galardonado con el Premio Eckert-Mauchly -el mayor galardón a nivel internacional en Arquitectura de Computadores- «por su extraordinario liderazgo en construir un centro de investigación de Arquitectura de Computadores de talla mundial», y  quien a su vez, ostenta el “Premio de Supercomputación Seymour Cray”, conocido como el ‘Nobel’ de computación de alto rendimiento (primer europeo en lograrlo), fue quien en una entrevista para un diario lo explicó de forma sencilla y magistral:

“Un MEME según la definición de Richard Dawkins: es unidad teórica de información cultural transmisible de un individuo a otro, o de una mente a otra, o de una generación a la siguiente.”

– Mateo Valero Córtes

 Las recetas son formas de tratar los alimentos que han pasado, de generación en generación, muchas veces de forma oral hasta nuestros días. La oralidad es una poderosa herramienta de enseñanza propia de nuestra cultura.

Y en forma socarrona le preguntaron si era posible explicar cómo representamos con unos y ceros un arroz en caldero o un zarangollo, platos murcianos. Y el doctor respondió:

«―Sí, los unos y los ceros son el lenguaje de los computadores.

 ―Si podemos traducir la receta de un zarangollo del español al chino ¿por qué no a una representación binaria?

―Es cuestión de saber el diccionario y la sintaxis.

―Si lo que me pregunta es si la máquina podrá saber a qué sabe un zarangollo, eso queda para un próximo capítulo científico.

― Quizá ese día, usted y yo nos sentemos con algún robot a comer zarangollo e intentar socializar con él. Eso será tan lejano en el tiempo que, si usted y yo estamos allí, habremos tenido oportunidad de comer juntos muchas, muchas veces.»

Al conocer la existencia de algoritmos culturales y de los CAEP (Cultural Algorithm with Evolutionary Programming), es posible ver la cultura como un conjunto de fenómenos ideológicos compartidos por una población, por medio de los cuales, un individuo puede interpretar sus experiencias y decidir su comportamiento. Y a la vez siendo conscientes o no, los desarrolladores son capaces de utilizar estos en su gestión diaria.

Los algoritmos culturales tienen su valor, conocer de su existencia y saber identificarlos es parte de la transformación digital que tanto se menciona actualmente.

Imagen: Pixabay

Referencias consultadas:

Disponible en: https://www.elconfidencial.com/alma-corazon-vida/2018-06-21/andrew-smart-robots-psicodelia-conciencia_1581609/

Disponible en: https://www.laverdad.es/culturas/mateo-valero-recetas-20180604011728-ntvo.html

Disponible en: https://www.researchgate.net/publication/332571435_Towards_algorithmic_cultures_Algorithmic_identities_and_the_hidden_Algorithm

Sule, Mercy. (2019). Towards algorithmic cultures, Algorithmic identities, and the hidden Algorithm.

Reynolds, Robert. (1994). An Introduction to Cultural Algorithms.

Disponible en: https://www.laverdad.es/culturas/mateo-valero-recetas-20180604011728-ntvo.html

Escrito por: Msc. Irasema Rivas-González

Inteligencia Artificial: algoritmos y sesgos

“Si no arreglas el sesgo ―del humano que crea el algoritmo―lo único que estás haciendo es automatizar el sesgo. Y eso es aún más peligroso.”

― Alexandria Ocasio-Cortez

¿Qué es sesgar? ¿Cómo afectan los sesgos? ¿Existen sesgos en los algoritmos? ¿Es la Inteligencia Artificial una incubadora de sesgos humanos?

Sesgar es la acción de caer en un error sistemático al hacer muestreos o ensayos seleccionando o favoreciendo unas respuestas o propuestas frente a otras. Y parece ser, más común, de lo que creen los que promueven la inteligencia artificial, sin tomar en cuenta el factor humano (los mismos que la desarrollan) y su rol en el producto final.

Hay que partir del hecho de que no toda decisión tomada por una máquina es incuestionable, todo lo contrario. Cada algoritmo que se alimenta de datos y aprende de ellos, debe ser cuestionado por expertos de diversas áreas (lo que se hace en grandes corporaciones y aún así se encuentran fallos por sesgos.) para minimizar los sesgos subyacentes.

Desde los años 80 la sociedad mundial se encuentra afrontando el problema de los algoritmos con sesgo racial y de género. Lo ha sufrido Amazon, lo experimenta Google y la mayoría de los proyectos que tienen una base de datos (previamente sesgada) de la cual se alimenta y aprende el algoritmo que hace el trabajo. Y este sesgo viene de las personas (y de no colocar suficientes controles, o no incluir agentes multidisciplinarios en el estudio/ sociólogos, filósofos, antropólogos, humanistas, etc.) que intervienen en la cadena de creación.

Sesgos en los algoritmos

Cuando un sistema desarrollado refleja los valores de los humanos que están o estuvieron implicados en su creación, recolección de datos o en su codificación, se dan los sesgos algorítmicos. Y aparece en nuestra vida cotidiana, tan a menudo que es difícil para muchos identificarlos.

Convivimos con ellos, listemos algunos ejemplos de existencia de sesgos:

  • En los resultados de las búsquedas en la red
  • En las redes sociales.
  • En las bases de datos de reclutamiento que usan aprendizaje automático.
  • En las bases de datos policiales (que responden a perfiles con predisposiciones negativas hacia una raza o cultura en particular)
  • En elecciones políticas.
  • En decisiones de ingreso a universidades.
  • Otorgamiento de prestamos.

Los sesgos pueden ser intencionados o involuntarios. Responden a la propia naturaleza del ecosistema complejo (sociedad) en el que se desarrollan los algoritmos. El mayor problema se da en la medida en la que la Inteligencia Artificial es utilizada como un “gran e infalible organizador de la sociedad y de sus procesos” al que se le da toda la confiabilidad y autoridad.

Todos los datos, de alguna manera son susceptibles de manipulación, por más controles que existan, pueden ser objeto de un ataque externo o interno malicioso. Por otro lado, es posible que los mismos desarrolladores pasen por alto que sus propios sesgos, conocimientos y limitantes en cuanto a conocimientos se verán reflejados en los algoritmos a su cargo.

¿Qué influye en el sesgo?

En el sesgo influyen factores tales como:

  • Cultura y costumbres
  • Conductas sociales
  • Criterio y política institucional
  • Limitaciones técnicas
  • Ambientes controlados o no controlados para su uso.
  • Consideraciones de uso limitadas a un grupo específico.

La discriminación sistemática e injusta es el objeto de estudio y critica más divulgado que se conoce hacia los algoritmos, pero hay otros sesgos más sutiles, solo en el tema de sexo es una tarea titánica porque la igualdad de género se demuestra con acciones, no con palabras. En muchas ocasiones los campos donde funciona el algoritmo, donde se desarrolló, son exclusivamente masculinos, entonces es imposible que refleje neutralidad.

“Los sesgos algorítmicos son culturales, técnicos y reflejan el comportamiento de los humanos que los diseñan.”

Hace poco una persona comentaba en un post en un muro de una red profesional que los algoritmos si están bien diseñados, no deben tener sesgo, nada más lejos de la realidad, no tiene que ver con diseño, tiene que ver con “gente” con la humanidad que está intrínseca en el diseño y la gestación de los mismos. Toda opinión en temas de Transformación Digital afectando a personas, con conocimiento de causa o sin él, también es y debe cuestionarse.

Aunque son considerados y promocionados, por muchos, como neutros y sin sesgos, al punto que ponen su confianza ciega en ellos, no lo son. No deje en manos de un algoritmo las decisiones que afectan a humanos sin antes haber sido evaluado y probado desde distintas perspectivas, hasta las menos esperadas.

Al embarcarse en el fascinante mundo de los algoritmos no olvide que:

“Igualdad de derechos para todos, privilegios especiales para nadie”-Thomas Jefferson. Clic para tuitear

Imagen: Pixabay

Referencias consultadas:
Disponible en: https://www.technologyreview.es/s/10924/como-se-produce-el-sesgo-algoritmico-y-por-que-es-tan-dificil-detenerlo
Disponible en: https://www.bbc.com/mundo/noticias-50074948

Escrito por: Msc. Irasema Rivas-González

Asistentes virtuales: voces y personalidades femeninas

“No hay música más deliciosa, más dulce, más poética que la voz de una mujer.”

-Francisco Zarco

El auge de los asistentes virtuales va en aumento, cada vez son más comunes en nuestros entornos. Aunque utilizamos un artículo gramatical masculino (el o los) para referirnos a estos programas, surge la duda ¿deberíamos llamarlas las asistentes virtuales? Siri, Aura, Alexa, Cortana y la asistente de Google, todas son representaciones que emulan a una inteligencia humana (inteligencia artificial especializada) con voz y personalidad de mujer.  

Con tan solo escucharlas, nadie pone en duda que se trata de una voz que nos lleva a pensar en un ente femenino, entra el tema de género que es tan cuestionado y que involucra de alguna manera el ODS #5.(Igualdad de género).

Si bien es cierto, se le ha dado a estas maravillas de la inteligencia artificial y el desarrollo humano, una presencia femenina, no menos cierto es que “evocan” profesiones que se estigmatizaron como trabajo para mujeres “asistentes de …, secretarias de … ,”

Entre los androides y robots, aparecen por ejemplo:

  • Cristine que es una androide que emula la personificación de una maestra de un jardín de infancia.
  • Sophia de Hanson Robotics,  la robot que se presenta en programas de TV y que recibió la nacionalidad de un país.
  • Saya, la robot que fuese concebida para secretaria y maestra en Japón o Jill Watson, un sistema de inteligencia artificial elaborado por IBM para ser el asistente de 300 alumnos durante los seis meses en Georgia Tech.
  • Y cómo si fuese poco, para el 2020, Hanson Robotics comercializará a la pequeña Sophia, hermana pequeña de Sophia y el miembro más nuevo de la oferta robótica de la empresa, tiene 14 «de altura y es concebida como una amiga robot, diseñada para ayudar a los niños a aprender STEM, codificación e inteligencia artificial de forma divertida y gratificante (niños mayores de 8 años).

Robots , evocación masculina

En cambio, se puede notar que el mercado de los agentes artificiales está muy orientado a proponer la personalidad masculina para los robots que realizan o se propone que hagan trabajos más y mejor “valorados”, robots para ciberseguridad, robots investigadores, robots policías, cobots, automóviles autónomos y otros. 

A ciencia cierta no podemos, sin investigación científica que lo avale, proponer una razón, con pruebas, para que esta situación sea así. Lo que si sabemos es que siendo la tecnología una profesión que durante años ha sido liderada por el género masculino es muy natural que los sesgos existentes en los creadores “hombres” se vean reflejados en las inteligencias artificiales que desarrollan, a propósito, o no, simplemente es una realidad.

Si nos vamos al tema de datos y de su gestión masiva, hay una situación que agravará el problema de la tendencia a encasillar a las mujeres a ciertas profesiones y perfiles que se transfiere de forma natural y sin reparos en la concepción de un robot y en los chatbots.

Una inteligencia artificial que se alimenta de datos, buscará patrones para aprender y accionar, si estos patrones están masculinizados, porque tradicionalmente son carreras donde se contratan hombres o porque se tiene una visión errada de que “solo los hombres pueden hacer ese trabajo”, el resultado será que la IA va a seleccionar hombres sin considerar a las mujeres.

Puede que la voz, la confianza que inspiren y la asociación natural de un agente inteligente conversacional amigables, sean los principales motivos para desarrollar IA con perfil femenino para funciones que impliquen comunicación oral, pero el balance, la contraparte masculina debería estar presente. Al final la tecnología refleja y se utiliza en función de lo que la sociedad para la que se ha desarrollado acepta o realiza de manera natural.  Con esta idea en mente, alegamos que la recepción, el secretariado y la atención a clientes como áreas de trabajo no son exclusivas de perfiles femeninos, como tampoco lo es la docencia preescolar, ni la enfermería. 

Por tanto, en la medida que nos adentramos en un período que se hace llamar “Era del Conocimiento” es urgente que los creadores de desarrollos inteligentes y los usuarios recuerden que igualdad de género implica que la representación de los roles profesionales no se encasille a una concepción del siglo pasado, inspirados en la otrora norma laboral.

Imagen: Pixabay

Referencias Consultadas: https://www.elmundo.es/tecnologia/2016/05/17/573aca4f268e3ee75c8b457a.html
https://www.wsj.com/articles/if-your-teacher-sounds-like-a-robot-you-might-be-on-to-something-146254662
https://www.20minutos.es/noticia/456680/0/profesora/robot/secretaria/

Escrito por : Msc. Irasema Rivas-González

Robots y lenguaje: inteligencia artificial que escucha y distingue sonidos

“En resumidas cuentas el mundo no es más que el producto de una acalorada discusión acerca de los límites de la lingüística.” ―  Salvador Elizondo

En París, ese destino turístico lleno de luces, glamour, moda y vivencias idílicas se encuentra, sin que muchos den cuentas de ello, uno de los centros de investigación sobre inteligencia artificial y robots. Nos referimos al Sony CSL París (fundado en 1996), este centro es considerado por sus regentes como una célula de investigación pequeña, pero “en auge”, centro que utiliza herramientas de ciencia compleja, ciencia de datos e inteligencia artificial para investigar cuestiones fundamentales en áreas tan diversas como: comprender y crear música, lenguaje y sistemas de comunicación, sostenibilidad y la dinámica de innovación y creatividad.  En este artículo le echaremos un vistazo a lo que hacen y cómo lo están llevando a cabo.

La investigación en el procesamiento del lenguaje

Su interés principal es investigar cómo las gramáticas de la construcción pueden romper el techo de cristal de las tecnologías lingüísticas actuales y lograr una comprensión semántica profunda y la generación apropiada del lenguaje.  ¿Cómo lo logran? Sus esfuerzos se basan en experimentos innovadores en sistemas de comunicación autoorganizados que investigan cómo un grupo de agentes autónomos puede inventar y negociar sus propios sistemas de comunicación.

Esta línea de investigación es interesantísima porque busca comprender la futura, posible, aparición de “lenguajes de comunicación máquina- máquina”, bajo la premisa de la autonomía de los agentes artificiales en sus procesos de aprendizaje automáticos. Sus resultados podrían dar luz, para hacer frente a situaciones en las que, sin las debidas consideraciones y conocimientos, los humanos demorarían mucho más tiempo que una máquina en comprender que está sucediendo, como fue el caso de Facebook cuando apagó la IA.

Según explica Mike Lewis, investigador del FAIR (Facebook AI Research), explicó a los medios que solo habían decidido que “el interés de la empresa era diseñar dos ‘bots’ que pudiesen hablar con la gente”, no que lo hiciesen eficientemente entre ellos, y fue por este motivo que decidieron exigirles que se escriban entre ellos de forma legible para los humanos, dado este fallo, tomaron la decisión de apagarlos.

Robots, hardware y software

En el centro de investigación de Sony en París se dedican a explorar la evolución del lenguaje humano a través de las interacciones de comunidades de robots autónomos a lo largo de muchos ciclos de interacción. Los robots tienen capacidades perceptivas (incluidas tanto hardware como en software) entre ellas son capaces de escuchar y distinguir sonidos, detectar gestos, moverse e interactuar. Buscando medir las reacciones de los robots a los elementos que no reconocen, cómo responden a la desviación de patrones y otras acciones, eligen conjuntos de parámetros y establecen comunidades que se ejecutan en ciclos de miles de interacciones. De estas interacciones simples y de las respuestas individuales de los agentes, surgen sistemas complejos que en realidad tienen las características de la comunicación en lenguajes naturales.

Una de las interrogantes que está presente en sus estudios es
¿Cómo evolucionó el lenguaje?

¿Cómo evolucionó el lenguaje?

En CSL responden que es una pregunta se encuentra entre los grandes misterios sin resolver y es un desafío científico fundamental. En 1996, el laboratorio se embarcó en darle respuesta, a través de la investigación y con un enfoque radicalmente nuevo. Lo hicieron hace más de 20 años investigando cómo una población de usuarios de lenguaje artificial podría ser capaz de crear su propio lenguaje desde cero, incluyendo palabras, gramática e incluso conceptos.

Dr. Remi van Trijp explica el enfoque que fue pionero hace más de 20 años por el Prof. Dr. Luc Steels.

Desafío científico fundamental

La pregunta ¿Cómo evolucionó el lenguaje? se encuentra entre los grandes misterios sin resolver y en CSL parten de la hipótesis de que el lenguaje es un sistema adaptativo complejo que surge a través de interacciones adaptativas entre agentes y continúa evolucionando para permanecer adaptado a las necesidades y capacidades de los agentes. Exploran esta hipótesis implementando el ciclo completo hablante-oyente, mientras juegan juegos de idiomas situados entre ellos, son observadas las características de los idiomas que emergen.

Tienen en proceso un proyecto que durante la última década aborda esta pregunta directamente y ofrece la posibilidad de una respuesta. El proyecto implica alcanzar vastos objetivos, incluido el objetivo central de formalizar el lenguaje natural, para poder modelarlo.  Lo desafiante es la gran complejidad de todo lo que compone el lenguaje, desde los actos de escuchar, producir sonido, articulación e interpretación, análisis, incompletitud, error, la velocidad a la que tiene lugar todo el proceso.

La complejidad de una investigación se deja ver al poner de ejemplo a un hablante adulto normal probablemente, quien conoce 100 000 unidades de construcción del lenguaje, las que manipula en diferentes condiciones de audibilidad, éxito y fracaso, con hablantes del idioma de un grupo de dialecto similar o muy diferente, muy rápidamente. Y con esas herramientas es capaz de comunicarse e innovar en la forma en que se comunica.

Según el blog del CSL: «La complejidad y los múltiples parámetros que influyen en la transmisión de significado no son la única barrera para crear un modelo exitoso, está el idioma que cambia, cambia, modifica, es dinámico. Surgen nuevos significados, se comparten, se dan cuenta, se extienden, se extinguen, a veces muy rápidamente, o a veces, como en profundos cambios en la estructura del lenguaje, a lo largo de miles de años. El dinamismo, la fluidez del lenguaje, debe ser capturado en un modelo artificial exitoso.»

 ¿Cómo es posible que los agentes puedan innovar, introducir nuevos significados, y estos significados pueden llegar a ser compartidos? ¿Cómo es posible la innovación?

La respuesta a esas preguntas es el objeto de la investigación que realizan. Por lo pronto, sabemos que el simple hecho de concederle a agentes artificiales, la capacidad de comunicarse emulando a humanos con un lenguaje es un paso gigantesco que pocos le prestan atención cuando utilizan los servicios de un “chatbot” o un agente conversacional artificial.

Imagen: Pixabay

Referencias Consultadas:

Escrito por: Msc. Irasema Rivas-González