Hacer algo espontáneo, entretenido e inesperado es tan natural, que no le prestamos la atención, debida, enumeramos tres acciones, que proceden de cualidades humanas, que los robots aún no logran emular. Y es que, para lograrlo, deberían tener inteligencia general natural, la inteligencia qué, aún con nuestra imperfección, nos permite relacionar conocimientos, inventar, imaginar y usar, en el momento, apropiado lo que hemos aprendido y que está almacenado en algún sitio de nuestro cerebro.
Así de fantásticos somos, máquinas con una programación y recursos que no utilizamos en su totalidad, pero lo olvidamos y le atribuimos características de semidioses a los algoritmos y robots.
La inteligencia artificial ha logrado perfeccionar comportamientos siguiendo patrones, esos patrones son o fueron creados por cerebros humanos capaces de imaginar que una máquina, a través de algoritmos, sea capaz de entregar mejores resultados, más precisos que los que podemos entregar nosotros.
Esa capacidad para imaginar y proyectar una idea en el futuro, dar los pasos que se requieren, colocar cada pieza en su lugar para que pase, esa es una de las habilidades que están vedadas a los robots actualmente.
Afrontar problemas desde diversos ángulos
Si el algoritmo está programado o diseñado con unos límites precisos, es improbable que se salga de ellos, es casi imposible que sea capaz de buscar nuevas alternativas o perspectivas desde las cuales afrontar el problema.
Es más, no puede, tal como usted si lo haría, despertar a media noche con una idea que se relaciona con el problema, anotarla, volver a dormir y retomarla al día siguiente, es uno de esos comportamientos que solo un humano manifiesta.
En tiempos de tecnología, disrupción y cambios, aunque lo quisieran sus creadores, los robots no son capaces de anticipar nuevas tendencias, comprender empáticamente las necesidades de los usuarios, actuales o futuras para proponer alguna acción que de forma inesperada solucione un problema que ni siquiera la audiencia sabe que tiene.
Imaginar, imaginar, imaginar
Otro tema común para nosotros. En cuantas ocasiones nos han dicho: imagínate que … y nuestra mente coloca esos elementos faltantes, y el interlocutor no duda que hemos podido recrear “sin elementos físicos” esa idea que el nos comunicó con palabras.
Los algoritmos no están diseñados para imaginar, para crear escenarios hipotéticos que ellos mismos puedan comprender y vivenciar .
Al ser tan espontáneos, los humanos, llevamos a cabo acciones inesperadas, inclusive para nosotros mismos, en lenguaje coloquial “nos salimos del guión” e improvisamos, haciendo uso de la experiencia y los conocimientos adquiridos previamente.
Hemos mencionado solo tres de las habilidades humanas que los robots no son capaces de emular y que nos permiten comprender porque es necesario trabajar en colaboración humano-máquina para obtener mejores resultados.
“A ningún hombre debe obligársele a hacer el trabajo que puede hacer una máquina.”
―Henry Ford
Se escucha hablar tanto de ella, pero no la vemos en nuestros entornos directos, aún. Razón por la que muchos piensan que es otra más de esas tendencias y modas que no tendrá ningún impacto.
Hasta el momento, da la impresión que la inteligencia artificial no ha llegado al sitio de trabajo que conocemos, quizás porque esperamos que un robot se siente a nuestro lado y sea nuestro compañero de trabajo.
En Asia, la imagen descrita en el párrafo anterior es un hecho. Tan solo tenemos que escudriñar un poco y encontramos un ejemplo reciente de la marca de prendas de vestir UNIQLO, propiedad de la tercera compañía más grande del mundo Fast Retailing que tiene en su almacén de distribución central en Japón un robot que dobla camisetas y las empaca en cajas.
Foto: UNIQLO
Mujin, junto a Yaskawa Electric son las empresas de robótica y producción asociadas a Fast Retailing, corporación que sustituyó por robots al 90 por ciento de los trabajadores que necesitaba en su principal almacén de Tokio.
Bueno, eso sucede por allá por Japón dirán algunos, no es tan lejano, de la misma manera como en la actualidad tenemos la oferta de servicios de lavado de ropa en aplicaciones para teléfonos móviles o lavanderías en las que podemos retirar la ropa a la hora que deseemos, gracias a la membresía y la entrada programada a través de una llave de acceso que funciona con el celular y código de cliente se propone tener robots en los hogares.
Las amas de casa tendrán ayuda, pero el servicio doméstico y las empresas que suplen este servicio verán como el lugar de trabajo que conocía deja de ser el habitual,
Fotografía: Mira Robotics
Al mejor estilo de los JETSONS/SUPERSÓNICOS, la compañía japonesa Mira Robotics desarrolló un robot cuya función es ayudar a lavar la ropa siguiendo comandos controlados por personas, pero este mismo robot con el tiempo, haciendo uso de machine learning y colección de datos podrá trabajar por cuenta propia, repitiendo patrones y escogiendo el mejor modelo a seguir.
Cambiando el paradigma, lo que antes era el trabajo repetitivo de humanos, ese trabajo hasta aburrido debería en un futuro nada lejano, pasar a ser realizado por agentes artificiales inteligentes.
¿Con la inteligencia artificial presente a qué nos dedicaremos en el lugar de trabajo?
A funciones creativas, investigación, manipulación de inteligencia artificial, supervisión de sistemas automatizados, desarrollo de nuevas tecnologías y aplicaciones, enseñanza de conductas humanas a robots y otras que implican el uso de nuestra inteligencia general e imperfecta.
“Siempre que te pregunten si puedes hacer un trabajo, contesta que sí y ponte enseguida a aprender cómo se hace.”
― Franklin D. Roosevelt
Muy posiblemente, las jornadas laborales puedan reducirse y los esquemas patrono-empleado tengan otra normativa.
Lo que no debemos perder de vista es que aprender a hacer y a trabajar en nuevos entornos, desaprender lo aprendido, es lo que se requerirá de nosotros ¿Ya se está preparando para afrontar el cambio en su lugar de trabajo o profesión?
Un robot que imita el aprendizaje de un infante, ya cumple 13 años desde su lanzamiento. CB2 es un humanoide producto de una investigación. «Child-robot with Biomimetic Body», es capaz de seguir un objeto con sus ojos y aprender de la misma manera como lo hacen los niños.
A través de cámaras en sus ojos y sensores táctiles debajo de su piel el humanoide puede imitar las capacidades físicas y mentales de un niño de dos años.
Al referirse a cuerpo biomimético explican que el robot tiene 197 sensores bajo su piel de forma que puede sentir cuando recibe un golpe o lo tocan.
Es capaz de reproducir los movimientos naturales de un bebe y de pararse con asistencia de un humano. Se encuentra en el laboratorio de la Osaka University, sus padres humanos (creadores) utilizan este experimento para estudiar la cognición y el aprendizaje en robots.
Los creadores indican que lentamente el robot, puede desarrollar competencias sociales a través de la interacción con humanos viendo sus expresiones faciales e imitando la relación entre una madre y su bebé.
¿Quiénes están detrás de este proyecto?
El proyecto es del tipo Humanoide, Research, creado desde el 2006 por los científicos japoneses Minoru Asada y Hiroshi Ishiguro/el que creó un robot clon de sí mismo.
Entre los sponsors o patrocinadores de fondos de investigación están Walt Disney Imagineering, IEEE Robotics & Automation Society, Universal Robots, Mouser Electronics, Newark y Element 14
Valorando las percepciones humanas
Al entrar a la página del robot es posible dar su opinión sobre las sensaciones que genera. Se invita al usuario a evaluar a través de selección de opciones. Preguntas breves que buscan conocer la percepción de las personas. ¿Le gusta este robot? Con una puntuación de 2 a 5, en promedio obtiene 2.2 en cuanto a gusto del usuario.
Con respecto a su apariencia las personas lo han catalogado “Creepy” u horripilante, porque genera temor en ellas, no por lo estético, por todo el conjunto.
Al preguntarle a los cibernautas si desean tener uno de esos robots, la respuesta es negativa en un 78%, reafirmando la hipótesis de que en la medida que el robot se asemeja más a un humano va aumentando el desagrado que genera en las personas.
Photo: Yoshikazu Tsuno/AFP/GettyImages
Si esto es así ¿Por qué son tan populares las tiras cómicas de robots y películas de cine que abordan el tema?
Podríamos decir que se debe a que el individuo sabe que es algo lejano, no está al alcance de sus manos. Al verlo en una pantalla genera curiosidad, pero no inseguridad, porque sabemos que es una industria de entretenimiento, donde se crean personajes de ficción.
En cambio, cuando el humano promedio se enfrenta a vídeos o físicamente, a robots, que son regentados por organizaciones que se dedican a la investigación, el sentimiento cambia, porque sabemos que son reales.
“Gracias a personajes de dibujos animados tan benignos como Astro Boy, los japoneses tienen una imagen amigable hacia los robots»
― Yoshimi de Toshiba.
El proyecto CB2 nos muestra otra de las facetas de la inteligencia artificial cuando se enfrenta a la aceptación humana, donde los temas de la naturaleza intrínseca, lo ético, moral y la convivencia social tienen una influencia muy importante.
La resistencia a lo que consideramos no correcto es en suma una de las barreras con las que se encuentran las tecnologías disruptivas que apelan a la humanidad desde visiones que no son usuales.
Masahiro Mori, ex profesor de robótica en el Instituto de Tecnología de Tokio, escribió un ensayo sobre cómo imaginó las reacciones de las personas a los robots que parecían y actuaban casi humanos.
En su hipótesis planteaba que la respuesta de una persona a un robot humano cambiaría abruptamente«de la empatía a la repulsión» a medida que se acercaba a lo que reconocemos como una apariencia realista. Esta situación se le conoce como el valle misterioso, tema del que hemos escrito anteriormente.
Lo cierto es que los avances en IA nos llevaran a enfrentarnos, cada vez más, a estos robots en nuestras vidas diarias.
“No somos robots. Necesitamos arte y creatividad.”
―Noor El Bawab
La frase que enmarca este artículo fue dicha en Brasil por Noor, la directora de una incubadora de disrupción en Montreal. Una mujer joven que mezcla arte y tecnología y que cree firmemente en el poder de la innovación y el espíritu empresarial como motor del desarrollo económico. Responsable del desarrollo de los diversos programas de incubación, aceleración y comercialización en Zú, el lugar de intercambio y creación que reúne a empresarios, creadores y artistas en el sector del entretenimiento en Montreal, Canadá.
La necesidad de arte y creatividad, así como de la cultura para abordar la discusión sobre los agentes artificiales y las tecnologías que estamos desarrollando en la actualidad son importantísimos.
Se escribe el futuro y parece fundamentarse en una relación atípica entre máquinas que emulan a humanos y humanos que están cada día más enganchados con máquinas que los acompañan casi las 24 horas del día.
Sin el aporte de filósofos, sociólogos, lingüistas, cognitivistas al lado de los tecnólogos, científicos de datos es muy posible que tengamos desarrollos de inteligencia artificial con sesgos, manipulados por el poder económico, discriminatorios, maliciosos e inmorales, que, si bien serán un reflejo de la sociedad actual, no son lo correcto.
¿Qué hace una incubadora de arte e inteligencia artificial?
Estos modelos de negocio buscan acelerar el acceso de las manifestaciones humanas, utilizando las tecnologías como apalancadoras para abrir nuevos mercados.
Zú es una organización sin fines de lucro cuya misión es reunir, ayudar y promover empresarios creativos en el sector del entretenimiento para desarrollar proyectos innovadores de clase mundial. La ONG los apoya en su proceso creativo y de crecimiento facilitándoles el acceso a los recursos necesarios para el desarrollo de nuevas propiedades intelectuales.
Sus instalaciones se describen como un entorno ecléctico con una infraestructura de vanguardia, capaz de reunir a una comunidad altamente disruptiva que busca dar mayor visibilidad a la creatividad de sus integrantes y la comparte con el mundo.
“Somos creativos. Despertando por la libertad. Picados por la curiosidad. Los pájaros fuera de la jaula dorada. Somos emprendedores. Pensadores de libre expresión de aquí y de otros lugares. Y aquí es donde elegimos anidar.” -Zú
Centroamérica, tierra fértil para la creatividad y tecnología
En nuestra región, rica en creatividad por naturaleza y con grandes posibilidades un modelo similar sería un éxito rotundo. Las condiciones están al alcance de nosotros:
Conectividad
Un mismo idioma compartido.
Telecomunicaciones
Integración por bloques económicos.
Acceso a nuevas tecnologías.
Red digital en aumento.
Creativos por naturaleza.
Interés por el emprendimiento.
Estudiantes de carreras tecnológicas en aumento.
Es posible desarrollar laboratorios de arte y tecnología que reúnan a artistas visuales y sonoros, creadores, músicos y compositores, pintores, ilustradores programadores, investigadores, ingenieros y curadores que sean capaces de explorar en conjunto la intersección de la inteligencia artificial y el arte. ¿Qué estamos esperando?
Del campo especializado de inteligencia artificial, cerrado hasta hace unos años, sólo accesible a ingenieros y científicos, al poco convencional mundo de los artistas y creativos para que puedan interactuar y aprender sobre las dimensiones sociales y filosóficas.
Urge desempaquetar los conceptos de inteligencia artificial, explorar las conexiones con IA y descomponer los estereotipos, prejuicios, temores para ser conscientes que ya está aquí y no se irá. Nos corresponde empezar a estudiarla, comprenderla y hacer del conocimiento junto a nuestras competencias humanas nuestra arma secreta para abordarla, claro está con la ética que exige este acercamiento.
“Cuando se dibuja algo, el cerebro y las manos trabajan juntos.”
― Tadao Ando
Dibujar requiere precisión, es un arte que exige ciertas competencias en las personas capaces de hacerlo a nivel profesional.
No todos podemos dibujar y crear con facilidad. Imagine ahora la posibilidad de que robots puedan hacer lo que le requiere talento, práctica y sensibilidad de un humano. Y no solo eso, que puedan hacer este trabajo sin errores y en menos tiempo de lo que le toma a un humano lograrlo.
Durante más de una década el artista y roboticista Patrick Tresset que trabaja desde Bruselas se dedicó a crear un sistema computacional que cumpliera con tres requerimientos, ser «artístico, expresivo y obsesivo» en su capacidad de dibujar.
El artista y científico no quería desarrollar otra fotocopiadora, deseaba que sus robots dibujantes tuviesen una «creatividad artística autónoma», capacitándolos para producir «objetos que se consideran obras de arte«, ese era su reto y lo ha logrado.
Robots Dibujantes
En un esfuerzo conjunto con investigadores y creadores de sistemas robóticos de avanzada, trabajando en estrecha colaboración con Oliver Deussen, de la Universidad de Konstanz en Alemania, y Frederic Fol Leymarie, científico informático con experiencia en visualización basada en robótica, el artista británico se dedicó a un ambicioso proyecto que ya ha dado frutos visibles (Paul y David) y no solo publicaciones en revistas científicas.
Y así, en el año 2016 aparece en la palestra pública Paul, el robot que puede dibujar como un artista humano. Paul y las pinturas derivadas de este agente artificial se han exhibido en los principales museos de arte y han sido adquiridas por galerías, museos y ferias de arte para su exhibición.
Basado en la retroalimentación proporcionada por el mundo del arte y el público amante del arte, Tresset cree que las creaciones de Paul de hecho «son consideradas como obras de arte» y está orgulloso de decirlo en sus entrevistas y conferencias.
Conociendo a Tresset
Patrick Tresset es un artista con sede en Bruselas que desarrolla instalaciones teatrales con agentes robóticos como actores. Las instalaciones de Tresset utilizan sistemas computacionales que tienen como objetivo introducir aspectos artísticos, expresivos y obsesivos en el comportamiento de los robots.
Estos sistemas están influenciados por la investigación sobre el comportamiento humano, más específicamente cómo los humanos hacen marcas, representan a otros humanos, cómo percibimos las obras de arte y cómo nos relacionamos con los robots.
El investigador y científico también utiliza robots y sistemas computacionales autónomos para investigar los dibujos y la práctica de la pintura.
Su trabajo se ha exhibido internacionalmente en asociación con importantes museos como el Grand Palais (París), el Centro Pompidou (París), la fundación Prada (Milán), la Tate Modern (Londres), el Museo de Israel (Jerusalén), el Museo Victoria & Albert (Londres), MMCA (Seúl), BOZAR (Bruselas) y en eventos como Ars Electronica, Update_5, BIAN Originalmente pintor, Tresset es parte de una generación de artistas que salen del departamento de informática del Goldsmiths ‘College (Londres).
Áreas de investigación y estudio STEAM
Tresset tiene una maestría en computación artística, codirigió el proyecto AIkon-II, tiene un máster of Philosophy en Artes y tecnología. Ha publicado trabajos de investigación en los campos de la estética computacional, la robótica social, la investigación del dibujo y la IA.
Con esa trayectoria y currículo impresionantes, Hanson Robotics le ha llamado para propiciar que Sophia, robot más popular del mundo, pueda aprender a dibujar. Y es precisamente, lo que está haciendo en el video que presentamos a continuación.
Surge así la duda sobre las emociones y las vivencias que implican el desarrollo y creación de obras artísticas, la sintiencia requerida ¿Cómo explicamos qué robots sin sensibilidad humana puedan crear? ¿Los algoritmos son capaces de copiar patrones es esto lo que hacen al dibujar?
La conciencia se define, en términos generales, como el conocimiento que un ser tiene de sí mismo y de su entorno. También puede referirse a la moral o a la recepción normal de los estímulos del interior y el exterior por parte de un organismo. La enciclopedia en línea, Wikipedia, indica que aún existe debate sobre en qué consiste exactamente la conciencia.
¿Qué es exactamente la conciencia? Lo cierto es que los humanos tenemos eso que llamamos conciencia y que, de forma natural, a diario, se presenta en nuestras vidas en nuestras decisiones y acciones.
A diario leemos titulares que aluden a robots promoviendo la humanización de estos agentes artificiales. Encabezados que dicen que las máquinas se están volviendo más humanos. ¿Será cierto? ¿Qué nos hace humanos? ¿Qué emula la Inteligencia artificial y qué no puede emular?
¿Será posible que robots se vuelvan sensibles y por fin tengan una conciencia similar a la humana?
Para llegar a sentir en el estricto significado de la palabra tendrían que darse ciertas condiciones que por el momento no son tan sencillas aún, cuando grandes éxitos de la taquilla cinematográfica nos hayan hecho creer lo contrario.
Años de estudio en neurociencias han hecho público que percibimos nuestras sensaciones y pensamientos aparentemente como son. Es decir, sentimos como es la realidad, no como quisiéramos hacerlo. Usted siente tristeza porque así es la tristeza, alegría, etc. Ya el tema ha sido abordado y explicado de forma sencilla, inclusive, por la película animada de Pixar INTENSAMENTE, que muestra esos mecanismos , emociones y procesos internos de las emociones humanas en acción.
“Sintiencia es la capacidad de sentir, percibir o experimentar subjetivamente. Los filósofos del siglo XVIII utilizaron el concepto para distinguir la capacidad de pensar de la capacidad de sentir. En la filosofía occidental moderna, la sintiencia es la capacidad de experimentar sensaciones.” Nuevamente hicimos uso de Wikipedia para clarificar un termino poco utilizado.
El estudio de la conciencia presenta interrogantes que aún no ha sido respondidas, a pesar de la investigación e hipótesis, no se tiene un consenso. Sabemos que los pensamientos y la llamada conciencia tienen en la actividad neuronal del cerebro su eje, pero ignoramos mucho de lo que allí sucede. La actividad cerebral sigue siendo un misterio a pesar de todo lo que se ha logrado descubrir.
La conciencia y los sentimientos se establecen en un área muy delicada para las personas y las sociedades, la de sus valores y lo que llaman la moral humana, que es el conjunto de las normas que rigen la conducta de los individuos en una sociedad y determina las valoraciones que hacemos sobre los actos humanos, tanto los nuestros como los de los demás.
Investigando sobre el tema nos encontramos con la segunda edición de un libro que vale la pena reseñar y por supuesto leer, de las Series on Machine Consciousness: Volumen 2. “Consciousness and Robot Sentience”
El texto aborda la pregunta ¿De qué manera deberíamos incluir futuros robots humanoides y otros tipos de agentes artificiales en nuestro universo moral?
Considerando que la visión orgánica, que sostiene que los agentes humanoides artificiales, basados en las tecnologías computacionales actuales, no pueden considerarse agentes morales de plena sangre, ni como objetivos apropiados de interés moral intrínseco. Desde este punto de vista, los humanoides artificiales carecen de ciertas propiedades clave de los organismos biológicos, lo que les impide tener un estado moral completo.
Empatía nula
El planteamiento propuesto establece que en los sistemas controlados computacionalmente, por avanzados que sean sus capacidades cognitivas o informativas, es improbable que posean sensibilidad y, por lo tanto, no podrán ejercer el tipo de racionalidad empática que es un requisito previo para ser un agente moral.
La visión orgánica también argumenta que la sensibilidad y la teleología requieren formas biológicas de autoorganización y auto mantenimiento autónomo. La visión orgánica puede no ser correcta, pero al menos debe tomarse en serio en el desarrollo futuro del campo de la ética de la máquina.
Su autor propone una explicación que también proporciona condiciones previas para la cognición consciente verdadera: el requisito de un sistema perceptivo directo con procesamiento de información simbólico y sub-simbólico inherente. El procesamiento de información neuronal asociativo con representaciones de señal distribuida se introduce como un método que satisface estos requisitos.
La cognición consciente del robot también requiere integración de información e integración sensoriomotora.
El libro desmitifica tanto los enigmáticos problemas filosóficos de la conciencia como los problemas prácticos de ingeniería de los robots conscientes al presentarlos de una manera fácil de entender para el lector, motivo por el cual sería muy recomendable su lectura y análisis para comprender mejor esta fascinante esfera de la interacción humano- máquina.
La conciencia es natural, la sintiencia también, con ellas dos nacimos y convivimos los seres humanos, agentes inteligentes por derecho propio.
¿Ha escuchado hablar de la hipótesis de El valle inquietante? Si no la ha escuchado, no se preocupe muchas personas la desconocen, pero a medida que la Inteligencia Artificial se hace más presente en nuestras vidas es bueno saber de que trata.
La hipótesis fue desarrollada para dar respuesta a las interrogantes que surgen de la relación que tenemos con los robots, y aunque ya tiene 49 años de existencia, es ahora que está tomando mayor relevancia.
Hay una delgada línea entre ternura y miedo. Cuando vemos un objeto, sentimos atracción o repulsión de inmediato.
Hipótesis del Valle Inquietante
Esta hipótesis propone que cuando la apariencia de un robot es más humana, la respuesta emocional de un observador humano al robot se irá haciendo cada vez más positiva y empática, hasta cruzar un punto a partir del cual la respuesta se vuelve una fuerte repugnancia.
En palabras más claras, los robots que se parecen a nosotros generan aceptación, empatía, pero, estas emociones no duran, llega un momento en que nos molestan. ¿Por qué sucede?
Propone también qué, cuando la apariencia del robot continúa convirtiéndose menos distinguible de la de un ser humano, la respuesta emocional se vuelve positiva una vez más y se va aproximando a niveles de empatía como los que se dan entre humanos. ¿Qué nos hará reaccionar así?
Hipótesis. Gráfico
Surgimiento del nombre
Al valle o bache en la respuesta generada, en este caso repulsiva entre un robot con apariencia y comportamientos «casi humanos» y una entidad «totalmente humana» (persona) es lo que su creador el japonés Masahiro Mori denominó “valle inquietante”.
Surge de la idea de que un robot que es «casi humano» (androide), es visto de forma general por un ser humano como «extraño» y por esto resulta imposible alcanzar el requisito de una respuesta empática para la necesidad de una interacción humano-robot productiva.8
La línea delgada entre las emociones positivas y el miedo que sentimos, la atracción o la repulsión hacia los robots hace que a medida que el diseño se parezca más a los humanos, la mayoría de las personas comienzan a sentir cada vez más miedo de ellos.
Primero sentimos algo de empatía y atracción hacia un objeto humano (artificial); pero un pequeño cambio de diseño, y de repente estamos llenos de miedo y repulsión. «valle misterioso»
El valle inquietante —del inglés: uncanny valley— es una hipótesis en el campo de la robótica y animación por computadora en 3D que afirma que cuando las réplicas antropomórficas se acercan en exceso a la apariencia y comportamiento de un ser humano real, causan una respuesta de rechazo entre los observadores humanos. El «valle misterioso» mide el componente positivo en la reacción de las personas según el parecido humano del robot.
En este punto es bueno recordar que el miedo es una emoción primaria derivada de la aversión natural al riesgo, a la amenaza, a lo desconocido y se manifiesta tanto en los seres humanos y animales. (Los animales no reaccionan igual frente a un humano que frente a un robot)
¿Quién es Masahiro Mori?
Es un doctor y profesor experto en robótica de 92 años, es especialista en robótica y presidente emérito de la Sociedad de Robótica de Japón. Mori es el fundador de Robocon, el concurso de robótica que inició en 1981 cuando era profesor en el Instituto de Tecnología de Tokio.
Robocon es el concurso robótico más famoso y extendido del mundo, realizado en tantos lugares del mundo que nadie parece saber el número exacto de participantes. En Japón, más de 3.000 escuelas intermedias, todas las escuelas técnicas y la mayoría de las universidades tienen sus propios concursos; mientras que el concurso de robots de Asia y el Pacífico (ABU Robocon) se transmite a más de 200 millones de personas por televisión.
Masahiro Mori no solo es el «padre» de todos los Robocons que existen, también es el «abuelo» de la mayoría de los robots japoneses, incluido Asimo, el robot humanoide de Honda desarrollado por Toru Takenaka, uno de los estudiantes de Mori.
La figura de Mori es tan influyente en el mundo de la robótica que casi es inconmensurable. Su hipótesis clásica, «The Uncanny Valley», publicada en 1970, sigue siendo una obra clave que define el diseño robótico.
En agosto de 2005, Masahiro Mori realizó unos breves comentarios sobre su teoría para el taller «Humanoids 2005», celebrado en Tsukuba, Japón. Comentarios que explican que el punto más alto de la curva después del valle no debería ser un humano sano, sino quizás el concepto idealizado de la imagen que tenemos de un ser humano sano. Y pone de ejemplo representaciones en piedra de Buda, que generan sentimientos de empatía y sosiego. Esto podría ser trasladado en occidente por ejemplo en las esculturas de mármol de la Grecia clásica, donde se pretende representar la perfección de las formas y la belleza del ser humano.
También se preocupa por el hecho de que observar las facciones de una persona fallecida nos trasmite un sentimiento de tranquilidad, cuando esta imagen nos debería situar justo dentro del Valle Inquietante.
Quien fuese en ese entonces un profesor de robótica en el Instituto de Tecnología de Tokio, escribió un ensayo sobre cómo imaginaba las reacciones de las personas a los robots que parecían y actuaban casi como lo hacemos los humanos. El ensayo apareció en una revista japonesa llamada Energy en 1970, casi no recibió atención.
Como suele pasar con el pasar de los tiempos, el concepto del valle misterioso ha atraído rápidamente el interés en la robótica y otros círculos científicos, así como en la cultura popular. Algunos investigadores han explorado sus implicaciones para la interacción humano-robot y la animación de gráficos por computadora, mientras que otros han investigado sus raíces biológicas y sociales. Ahora el interés en el valle misterioso se intensifica, a medida que la tecnología evoluciona y los investigadores construyen robots que lucen cada vez más humanos.
¿Cómo es su reacción a los robots con apariencia humana? Ya conoce el valle misterioso, le será más sencillo comprender las emociones que generan en usted esos agentes artificiales cuando tenga la oportunidad de tener uno frente a usted como algo cotidiano.
[1] Mori, Masahiro & MacDorman, Karl & Kageki, Norri. (2012). The Uncanny Valley [From the Field]. IEEE Robotics & Automation Magazine. 19. 98-100. 10.1109/MRA.2012.2192811.
“El límite de la IA es el olvido catastrófico.” ―Ramón López de Mántaras
La primera vez que escuché el término “olvido catastrófico” fue reveladora, de inmediato ese maravilloso sistema de procesamiento e investigación natural, que poseemos los humanos, se activó y me hizo desear saber más. Justo tal y como supongo, usted recordó o se ha interesado en el concepto, con tan solo leer el titular de este artículo.
Con cada duda, con cada nueva idea las preguntas arriban a nuestro centro de procesamiento de datos, el cerebro trabaja inmediatamente. Comencé a formular preguntas ¿Cómo es posible que nosotros podamos aprender nuevas cosas sin olvidar aquellas que ya sabemos? ¿Por qué si a una red neuronal se le entrena para algo nuevo pierde la capacidad para la que se le había entrenado anteriormente? Dicen que andar en bicicleta es una de esas habilidades que aprendemos y aunque no las practiquemos, una vez lo hacemos, simplemente la retomamos, no se olvidan. Bueno, no es así con las Inteligencias Artificiales, lo que me hizo pensar que no son tan inteligentes como nos las han vendido las películas de ciencia ficción.
De hecho, el ingeniero que mencionó ese día el “olvido catastrófico”, lo hizo porque me explicaba que el perro robot (robot social) que tenía conmigo y cualquier otra red entrenada para realizar una función específica, no guardaría su conocimiento o habilidad si la entrenaba con otra finalidad. Parece un trabalenguas, lo que me explicaba es que, si le da una tarea nueva, el sistema luego de unas pocas interaciones procede a borrar su tarea anterior para dedicarse a la nueva.Un humano en su lugar, aprende lo nuevo y recuerda lo que ya había aprendido, y muchas veces lo utiliza para mejorar o potenciar el nuevo aprendizaje.
El sistema neuronal inteligente al que se le trata de entrenar en una nueva tarea, no lo hace, indica mediante un mensaje: “No necesito esa información” y la sobrescribe. Se pierde así, todo lo que antes se había aprendido. Sí, coloquialmente, en la jerga de los no conocedores de tecnología, se queda en blanco, se queda en cero.
Contrario a ello, los humanos contamos con un cerebro que puede adquirir conocimientos sin eliminar recuerdos anteriores de forma natural, por eso seguimos aprendiendo. Es por ello, que la idea del “aprendizaje para toda la vida” que se promueve con la llegada de las nuevas tecnologías y los cambios en el entorno laboral, se fundamentan en nuestras capacidades, casi infinitas, de usar las mismas neuronas para múltiples tareas o nuevas neuronas cuando así se requiera. Con razón, es tan difícil desarrollar inteligencias artificiales que emulen a la perfección a los humanos.
Las redes neuronales entrenadas olvidan
En efecto, las redes neuronales artificiales sufren de “olvido catastrófico”, que, explicado en palabras sencillas, se refiere a la limitación o dificultad que presenta al intentar enseñar a un sistema a realizar nuevas habilidades sin que pierda las funciones aprendidas previamente.
Leyendo lo anterior, pudiésemos preguntarnos ¿Cómo es posible que sistemas artificiales capaces de resolver tareas complejas casi a la perfección no puedan aprender y reaprender varias tareas?
La explicación que nos dan los expertos en la materia es que a pesar que puedan repetir, seguir patrones y procesar millones de datos en corto tiempo, mejor de lo que lo hacemos los humanos, esos agentes artificiales no poseen conciencia de lo que hacen, ni de los conceptos básicos lógicos de lo que están realizando.
Un amigo doctor en Inteligencia Artificial me dijo algo que siempre recuerdo: “Definitivamente hay que desmitificar la tecnología. La tecnología hoy en día está mitificada por una suma de dos factores: una falta de religiosidad de espiritualidad, estamos perdiendo esa religiosidad, la tecnología es un gran desconocido. Los antiguos misterios de la religión se mitificaban, lo mismo sucede con la tecnología, pensamos que oh Dios mío que con el Big Data lo va a controlar todo, lo van a hacer todo. En realidad, cuando estás metido en el mundo de la tecnológico cuando estás cerca te das cuenta de que “un ordenador es un tonto muy rápido” capaz de hacer ciertas cosas, pero aún muy lejos de sustituir al ser humano en los aspectos más complejos. Por lo cual, desde mi punto de vista hay que desmitificar, a la tecnología, simplemente ser conscientes de que nos puede ayudar en muchas labores tediosas, pero la creatividad y el arte siguen siendo alimento único para el ser humano.
“Un ordenador es un tonto muy rápido capaz de hacer ciertas cosas, pero aún muy lejos de sustituir al ser humano en los aspectos más complejos.”
Algo similar comentó durante el lanzamiento del libro undécimo de la colección OpenMind de BBVA el doctor Ramón López de Mántaras, sitio en el que explicó que aun cuando existen Inteligencias Artificiales capaces de realizar y leer pruebas médicas mejor que los propios doctores, no pueden ayudar al paciente en el contacto físico, con empatía, son incapaces de comprender y hacer cosas que a un humano le parecen de lo más fáciles porque las hacemos por propia naturaleza, de forma innata. Para este experto la tecnología y el humano se complementan a perfección.
“El binomio persona-máquina es mejor que los resultados de ambos por separado, sin lugar a dudas.” ― Ramón López de Mántaras
Olvidar no es una limitante humana que nos paralice, tenemos capacidad de aprender y hacerlo de forma reiterativa, nuestra capacidad para memorizar de forma natural es la epitome de cualquier ingeniero especializado en Inteligencia Artificial. Aprovechemos esa capacidad para hacer del aprendizaje para toda la vida el motto que nos guié durante este proceso de cambios asombrosos para la humanidad.
No existe coraje sin dilema ni carácter que no esté forjado por las elecciones más aún que por las victorias. «― Muriel Barbery
Con la presencia de la Inteligencia Artificial en diversas áreas del quehacer humano todos nos enfrentaremos a dilemas éticos. Y es que en la vida todo humano tiene y tendrá que hacer frente a dilemas éticos. ¿Qué aceptamos y qué no aceptamos? ¿Qué nos impide aceptar algunas situaciones y otras no? Son preguntas a las que indudablemente nos enfrentaremos con la IA muy pronto.
Pese a que existen valores universales y derechos humanos universalmente conocidos, lo que se acepta en algunas sociedades en otras no es bien visto. Lo que acepta usted tal vez, sea inapropiado para otros. Dependiendo de la situación, de nuestro sistema de valores y creencias, conocimientos, del entorno socio-cultural y de otros factores, respondemos a esas dicotomías que nos hacen cuestionarnos.
Los dilemas éticos que se enmarcan en cuestiones tecnológicas no son estáticos, van cambiando en la medida en que las ciencias, investigaciones y las sociedades avanzan, rompen paradigmas y se acogen a nuevos. Es un tema amplio que da para estudiar y seguir investigando, aunque lo cierto es que, al enfrentarse a una cuestión ética posiblemente la mayor limitante que tengamos sea el tiempo, hemos de decidir en un espacio limitado de tiempo y probablemente la decisión que tomemos hoy, sea muy distinta a la que tomaríamos en un futuro, con mayor criterio y con otro marco circunstancial.
Comprendiendo los dilemas éticos
Son considerados dilemas éticos o paradojas éticas esos problemas de toma de decisiones entre dos imperativos ético-morales posibles, ninguno de los cuales es inequívocamente aceptable o preferible. La complejidad surge del conflicto situacional en el que obrar de acuerdo a uno podría resultar en transgredir al otro.[1]
En situaciones particulares algunas «paradojas éticas» en la filosofía moral (la rama que estudia la conducta humana desde lo correcto o lo incorrecto, lo bueno y malo, lo moral y amoral), se pueden invocar dilemas éticos para refutar un sistema ético o un código moral, o para mejorarlo y resolver la paradoja.
La tecnología y sus usos, desde su aparición, llevan consigo dilemas éticos porque se relaciona en el espectro con el conjunto organizado de reglas, valores, deberes y normas que regulan la coexistencia entre los hombres, con la moral, que determina la forma en que los hombres se relacionan entre sí. Estos valores y normas (morales) se aceptarán como correctos o adecuados, según el momento histórico y grupo social en que se viva.
El utilizar o aplicar las nuevas tecnologías disruptivas trae implícito enfrentarse a dilemas éticos porque afectan de forma directa temas tan sensibles como: el derecho al trabajo, la existencia de otras inteligencias, el uso de la tecnología en temas sensitivos moralmente, el uso de los datos de las personas, relación vigilancia sin consentimiento expreso, reconocimiento biométrico sin autorización, uso de tecnologías para control y castigo a la población, privacidad en temas médicos, convivencia hombre-máquina, derechos humanos, regulaciones de las tecnologías, responsabilidades sobre tecnologías autónomas, derechos de propiedad, biotecnología, derecho a la vida, derecho a Internet y otros.
¿Necesitamos ética para la Inteligencia Artificial?
La ética o la filosofía moral es una guía para los humanos, nos permite tomar decisiones, discernir entre lo que es correcto y lo que no lo es desde el punto de vista ético. Con esa guía podemos afrontar los dilemas éticos. Se rige por valores en el contexto de la ley natural que rige lo que es conveniente para los seres humanos según el momento histórico en que viva la sociedad.
En este momento histórico de robots, de inteligencias artificiales, de programas y datos por doquier es ineludible cuestionar la ética aplicada desde que se concibe la idea hasta que nace una solución o un producto digital. Es necesario preguntarnos si quienes están desarrollando han sido preparados suficientemente en temas éticos, en Bioética, Roboética, son empáticos, pero aún más es prioridad de cada usuario conocer sus derechos, sus deberes, poseer los conocimientos necesarios para decantarse por una opción en caso de enfrentarse a dilemas éticos.
Lo cierto es que, a parte del gran ruido en medios y redes con las frases de moda “Transformación Digital” e Inteligencia Artificial, si la persona no está relacionada con la investigación o el campo tecnológico poco conocen sobre los dilemas que presenta decidir que hacer frente a un auto que se conduce solo y atropella a una persona, qué hacer cuando lo vigilan sin su consentimiento, ser capaz de entender que su huella digital en la red también puede ser elemento violatorio de la privacidad de otros, conocer que a pesar de generar simpatías los agentes artificiales―robots sociales/humanoides―no son capaces de hacerlo de la misma manera. ¿Qué haremos cuando se nos pida insertar cables al cerebro para modificarnos, mejorarnos con soluciones de Inteligencia Artificial? ¿Está mal poner barreras a la investigación científica por valores éticos?
“En la naturaleza humana subyace al mismo tiempo la voluntad de conciliar los contrarios y encaminarnos a lo que algunos llaman armonía.”[2]
“Los seres humanos están marcados por la contradicción, por esa capacidad de construir o destruir, de crear o creer, de ser actores o espectadores de sus días. Son capaces de reconocerse o de anularse en un instante, no solo físicamente, pues la negación de su propia naturaleza posee artilugios para colocarse en las situaciones cotidianas logrando, como agujeros negros, absorber su esperanza y su humanidad.” Las palabras de la Doctora en Filosofía Sistemática e Investigadora de la Universidad de Panamá Ela Urriola, nos brindan un panorama real del humano, ahora imaginemos a ese humano con tecnología que le supera y con la que puede dominar o lograr imponer sus criterios e ideas colonizando intelectualmente a otros humanos. Realmente, la relación hombre- máquina merece un tratamiento ético transparente y libre de las influencias del poder político, económico y social, todo un reto para esta sociedad.
La Revista Telos indica que “El mundo científico, con el decidido apoyo del mundo jurídico, tiene que hacerse más cercano al ciudadano y promover una divulgación mediática más constante y más comprometida sobre los efectos de sus investigaciones y descubrimientos.”[3]
Los dilemas éticos estarán con nosotros a medida que la Inteligencia Artificial avanza y se integra a nuestra cotidianeidad, corresponde a cada persona hacerse de herramientas en forma de conocimiento para afrontarlos y superar el reto que supone tomar las decisiones frente a ella.
“Todo aspecto de la cultura occidental necesita un nuevo código de ética – una ética racional – como condición previa del renacimiento.” ― Ayn Rand
Tres temáticas en un solo artículo, tres temáticas que le afectan más de lo que cree, que se interrelacionan y no son excluyentes. Todo lo que hacemos o no hacemos en el mundo de los negocios y de la tecnología tiene condicionantes éticos ¿Qué relaciona a la ética con la Inteligencia Artificial? ¿Cómo nos afecta su incorporación dentro de la discusión del nuevo paradigma de sociedad del Siglo XXI?
En nuestra sociedad actual, pocas son las veces que la gente se detiene a pensar sobre las repercusiones tanto éticas como morales del uso indiscriminado de la tecnología (estamos demasiado ocupados utilizándola, con nuestros móviles, frente al ordenador y compartiendo en redes sociales), y los pocos que lo hacemos somos etiquetados de diversas maneras entre ellas: escépticos, moralistas, influenciados por la ciencia ficción, retrógrados y especuladores. Nada más falso, lo sabemos, la tecnología ya está aquí, trae cambios y no aceptarlos sería imposible.
Definiciones y contexto
Antes de proseguir trataremos de poner en contexto estas áreas de estudio para establecer un punto de partida compartido. Aunque lograr definir los subcampos de estudio de la ética no es tan sencillo, haremos el intento:
La Roboética es el subcampo de la ética aplicada que estudia las implicaciones positivas y negativas de la Robótica para los individuos y la sociedad. Su estudio es relativamente nuevo y se encuentra en constante mejora. Intenta inspirar y guiar a los creadores de robots inteligentes, autónomos, humanoides y similares para evitar su uso contra la humanidad.
La Bioética por su parte, intenta proporcionar y examinar los principios de conducta más adecuados para el ser humano en relación con la vida (vida humana, animal y vegetal). Se trata del estudio sistemático de la conducta humana en el ámbito de las ciencias de la vida, examinadas a la luz de los valores y de los principios morales. la bioética no se limita al entorno médico, sino que aborda múltiples cuestiones (p. ej., medio ambiente y derechos de los animales).
Wikipedia nos indica que coloquialmente, el término Inteligencia Artificial se aplica cuando una máquina imita las funciones «cognitivas» que los humanos asocian con otras mentes humanas, como, por ejemplo: «percibir», «razonar», «aprender» y «resolver problemas». La enciclopedia cita la definición de Andreas Kaplan y Michael Haenlein: «la capacidad de un sistema para interpretar correctamente datos externos, para aprender de dichos datos y emplear esos conocimientos para lograr tareas y metas concretas a través de la adaptación flexible.»
En la medida en que personas con valores morales y éticos, que se condicionan a su propia naturaleza, se decantan por desarrollar o implementar soluciones a problemas que afectan la vida en sociedad, es necesario que existan códigos éticos que eviten el mal uso de estas poderosas herramientas, qué sirvan de marco para los diversos estudios e investigaciones para incorporar Inteligencia Artificial, Aprendizaje Automático y robótica a las labores humanas.
Dilemas éticos de la Inteligencia Artificial
Imagínese que le indican que debe integrar un dispositivo de rastreo e identificación a su cuerpo, debe hacerlo porque la empresa para la que trabaja utilizará este sistema para mantener la seguridad en sus oficinas. Sí se rehúsa será despedido. ¿Qué hará? ¿Aceptará para no perder el empleo? Es su decisión y es un tema que tiene implicaciones éticas y bioéticas tanto por su parte como por la del empleador.
En la actualidad se colocan “chips” a mascotas, sus dueños aceptan porque tienen control sobre el animalito, en cuestiones cómo estas un claro manejo de principios bioéticos permite que las decisiones se den en un marco de respeto a la vida e integridad. Una empresa que le obliga a tener un dispositivo tecnológico en su cuerpo estaría violando principios de Bioética y derechos humanos.
¿Qué tal si le piden que lleve puesto un dispositivo biónico que emula una cola de un animal para que no pierda el equilibrio mientras trabaja? ¿Qué tal si este dispositivo logra ayudar a personas que no pueden mantener el equilibrio por una condición médica? Algunos pudieran sentir que el diseño biológico de los animales y de los humanos se está violentando. ¿Sabía que personas han nacido con algo parecido a colas y qué son objeto de estudio médico? Otros apoyaran en nombre de la ciencia y el avance tecnológico pensando en los beneficios aunque parezca algo poco usual o raro.
Existe un proyecto de una cola que emula la de los caballitos de mar llamado Arque: La cola inspirada en la biomimética artificial para extender las funciones del cuerpo innato se encuentra en los procedimientos de SIGGRAPH ’19 Emerging Technologies. ACM.
Bien o mal, bueno o malo, la cuestión es un dilema de bioética que no se resuelve porque pensamos de una manera u otra. Estos son claros ejemplos del dilema ético que presenta la Inteligencia Artificial, así como otras tecnologías disruptivas.
Keio University Graduate School of Media Design Radical Bodies Group & Embodied Media
Al tratar de emular la inteligencia humana y relacionarse con humanos, la Inteligencia Artificial, hace uso de los datos, la privacidad, los secretos médicos, la seguridad e integridad, el pensamiento y el razonamiento, con la manipulación. ¿Sabe diferenciar cuándo es atendido por un bot o por un humano? ¿Será necesario que nos adviertan que estamos tratando con un agente artificial? ¿Los diseñadores de sitios web que captan nuestros datos y nos recomiendan productos luego de hacer un análisis de gustos y preferencias nos dejan saber que lo están haciendo? Todos son temas que pueden afectar directa e indirectamente la ética y los derechos humanos.
Más aún los desarrollos de Inteligencia Artificial son financiados por poderes económicos y gestionados por científicos e investigadores que obtienen fondos. No pretendemos poner en duda sus intenciones y valores. ¿Cómo aseguramos que el poder y los intereses creados no desvirtúen los beneficios de la Inteligencia Artificial?
En la actualidad existen iniciativas en dos grandes áreas: la regulación legal y la educación ética, pero hace falta que muchas más organizaciones y personas se involucren, porque nos afecta a todos.
Ética, Bioética e Inteligencia Artificial desde la literatura
La Doctora Carme Torras una investigadora experta en robótica y escritora de literatura reconocida mundialmente, ha dicho que se contemplan tres líneas de importancia o urgencia decreciente en temas de Roboética: «adaptar la ética humana a la robótica, incrustar un código moral en los robots mismos, y pensar qué ética surgiría de una posible conciencia futura de los robots.»
Ya hace más de diez años en su novela “La mutació sentimental” (Pagès Editors, 2008), que traducida al castellano se titula “La Mutación Sentimental”, obra que obtuvo el premio Manuel de Pedrolo de ciencia-ficción 2007 y el premio Ictineu a obra publicada 2009, nos insta a reflexionar las implicaciones de convivir con agentes artificiales y las bases ético-morales de esta relación.
La novela trata de Celia, una niña de trece años a quien criogenizaron porque sufría una enfermedad terminal, es devuelta a la vida en el siglo XXII para ser adoptada en una sociedad futura donde cada cual tiene un asistente robótico. La niña se enfrenta a la manera de pensar, actuar y relacionarse de la madre adoptiva y su entorno, muy distinta a la de su familia biológica. La inadaptación de Celia atrae a Silvana, una masajista emocional que estudia las sensaciones perdidas por los humanos, y a Leo, un joven ingeniero que está diseñando una prótesis de creatividad en la empresa de robots personales líder del mercado, CraftER, dirigida por el enigmático Doctor Craft.
En la trama abundan los robots con características humanas, empáticos, atentos, amables, asisten a los humanos porque fueron programados para adaptarse a sus propietarios. Los agentes artificiales son una presencia invisible, omnipresentes e imprescindibles en esa sociedad. Nadie, excepto los considerados “humanos anti tecnológicos”, se atreve a separarse de su robot. Celia, la protagonista no es inmune a ellos, se siente mejor con ROBbie, su robot, porque él no la cuestiona, no la atosiga, es previsible, un aliado fiel e incondicional.
La novela presenta un escenario que tiene implicaciones éticas y dada su importancia para la robótica el Massachusetts Institute of Technology (MIT) la utiliza ―traducida al inglés con el título «The Vestigial Heart»― junto con materiales éticos para impartir el curso sobre «Ética en Robótica Social e Inteligencia Artificial.» Siendo este uno de los muchos esfuerzos del prestigioso instituto por abordar académicamente el tema ético en las nuevas tecnologías. La ética es tan importante que su Media Lab tiene un fondo de 27 millones de dólares para una iniciativa de investigación sobre ética y gobernanza en IA.
El MIT Media Lab y el Centro Berkman Klein para Internet y Sociedad de la Universidad de Harvard son las instituciones de base y fundadoras de una nueva iniciativa destinada a cerrar la brecha entre las humanidades, las ciencias sociales y la informática al abordar los desafíos globales de la inteligencia artificial. (AI) desde una perspectiva multidisciplinaria.
“Los agentes de inteligencia artificial impactarán cada parte de nuestras vidas en cada sociedad de la Tierra. La tecnología y el comercio se encargarán de eso ”, ha dicho Alberto Ibargüen, presidente y CEO de la Fundación John S. y James L. Knight, que se encuentra entre los que apoyan la iniciativa.
Inicialmente financiado con $ 27 millones de la Fundación Knight; El cofundador de LinkedIn, Reid Hoffman; la red Omidyar; la Fundación William y Flora Hewlett; y Jim Pallotta, fundador del Grupo Raptor, la misión del Fondo de Ética y Gobernanza de la Inteligencia Artificial es catalizar la investigación global que promueve la IA para el interés público, con énfasis en la investigación aplicada y la educación.El fondo también buscará avanzar en la comprensión pública de la IA.
La presión para desestimar el análisis y pensamiento crítico frente a los temas éticos aumenta cuando te inclinas por la literatura o la escritura e investigación, parece más sencillo que nos faciliten todo a través de un dispositivo móvil o creer a ciegas lo que vemos publicado en una red social. Citar a Carme Torras Genís, en este artículo, nos permite apalancar la investigación científica, la conciencia ética, la necesidad de regulaciones y educación junto a la literatura como medio para llegar a más personas.
Las sub-ramas de la ética aplicada son necesarias para abordar el dilema que surge de la interacción IA y humanos, cada vez más presente en nuestras vidas. ¿Ha tomado un curso MOOC sobre gobernanza en Internet? Telefónica en su plataforma Miríadax ofrece Gobernanza en Internet 2da.Edición, un completo curso sobre el tema. Sería un buen paso inicial para que tome parte de un tema que le afecta directamente.
Sobre Carme Torras Genís: es doctora en informática y profesora de investigación en el Instituto de Robótica (CSICUPC). En el ámbito científico, ha publicado libros y artículos sobre modelos neuronales, visión por computador, inteligencia artificial y robótica. Ha sido galardonada con el premio Divulga del Museo de la Ciencia de Barcelona, el premio Rafael Campalans del Institut d’Estudis Catalans, y la medalla Narcís Monturiol de la Generalitat de Catalunya al mérito científico y tecnológico. En el ámbito literario, sus novelas Pedres de toc (Columna, 2003) y Miracles perversos (Pagès Editors, 2011) merecieron los premios Primera Columna y Ferran Canyameres de intriga y misterio.
