Olvido catastrófico: hasta allí llega la Inteligencia Artificial

“El límite de la IA es el olvido catastrófico.” ―Ramón López de Mántaras

La primera vez que escuché el término “olvido catastrófico” fue reveladora, de inmediato ese maravilloso sistema de procesamiento e investigación natural, que poseemos los humanos, se activó y me hizo desear saber más.  Justo tal y como supongo, usted recordó o se ha interesado en el concepto, con tan solo leer el titular de este artículo.

Con cada duda, con cada nueva idea las preguntas arriban a nuestro centro de procesamiento de datos, el cerebro trabaja inmediatamente. Comencé a formular preguntas ¿Cómo es posible que nosotros podamos aprender nuevas cosas sin olvidar aquellas que ya sabemos? ¿Por qué si a una red neuronal se le entrena para algo nuevo pierde la capacidad para la que se le había entrenado anteriormente? Dicen que andar en bicicleta es una de esas habilidades que aprendemos y aunque no las practiquemos, una vez lo hacemos, simplemente la retomamos, no se olvidan. Bueno, no es así con las Inteligencias Artificiales, lo que me hizo pensar que no son tan inteligentes como nos las han vendido las películas de ciencia ficción.

De hecho, el ingeniero que mencionó ese día el “olvido catastrófico”, lo hizo porque me explicaba que el perro robot (robot social) que tenía conmigo y cualquier otra red entrenada para realizar una función específica, no guardaría su conocimiento o habilidad si la entrenaba con otra finalidad.   Parece un trabalenguas, lo que me explicaba es que, si le da una tarea nueva, el sistema luego de unas pocas interaciones procede a borrar su tarea anterior para dedicarse a la nueva.  Un humano en su lugar, aprende lo nuevo y recuerda lo que ya había aprendido, y muchas veces lo utiliza para mejorar o potenciar el nuevo aprendizaje.

El sistema neuronal inteligente al que se le trata de entrenar en una nueva tarea, no lo hace, indica mediante un mensaje: “No necesito esa información” y la sobrescribe. Se pierde así, todo lo que antes se había aprendido. Sí, coloquialmente, en la jerga de los no conocedores de tecnología, se queda en blanco, se queda en cero.

Contrario a ello, los humanos contamos con un cerebro que puede adquirir conocimientos sin eliminar recuerdos anteriores de forma natural, por eso seguimos aprendiendo. Es por ello, que la idea del “aprendizaje para toda la vida” que se promueve con la llegada de las nuevas tecnologías y los cambios en el entorno laboral, se fundamentan en nuestras capacidades, casi infinitas, de usar las mismas neuronas para múltiples tareas o nuevas neuronas cuando así se requiera.  Con razón, es tan difícil desarrollar inteligencias artificiales que emulen a la perfección a los humanos.

Las redes neuronales entrenadas olvidan

En efecto, las redes neuronales artificiales sufren de “olvido catastrófico”, que, explicado en palabras sencillas, se refiere a la limitación o dificultad que presenta al intentar enseñar a un sistema a realizar nuevas habilidades sin que pierda las funciones aprendidas previamente.

“Si le muestra a una red neuronal entrenada una nueva tarea, se olvidará completamente de la tarea anterior.” ―Gregory Grant Clic para tuitear

Leyendo lo anterior, pudiésemos preguntarnos ¿Cómo es posible que sistemas artificiales capaces de resolver tareas complejas casi a la perfección no puedan aprender y reaprender varias tareas?

La explicación que nos dan los expertos en la materia es que a pesar que puedan repetir, seguir patrones y procesar millones de datos en corto tiempo, mejor de lo que lo hacemos los humanos, esos agentes artificiales no poseen conciencia de lo que hacen, ni de los conceptos básicos lógicos de lo que están realizando.

Un amigo doctor en Inteligencia Artificial me dijo algo que siempre recuerdo: “Definitivamente hay que desmitificar la tecnología. La tecnología hoy en día está mitificada por una suma de dos factores: una falta de religiosidad de espiritualidad, estamos perdiendo esa religiosidad, la tecnología es un gran desconocido. Los antiguos misterios de la religión se mitificaban, lo mismo sucede con la tecnología, pensamos que oh Dios mío que con el Big Data lo va a controlar todo, lo van a hacer todo. En realidad, cuando estás metido en el mundo de la tecnológico cuando estás cerca te das cuenta de que “un ordenador es un tonto muy rápido” capaz de hacer ciertas cosas, pero aún muy lejos de sustituir al ser humano en los aspectos más complejos.  Por lo cual, desde mi punto de vista hay que desmitificar, a la tecnología, simplemente ser conscientes de que nos puede ayudar en muchas labores tediosas, pero la creatividad y el arte siguen siendo alimento único para el ser humano.

“Un ordenador es un tonto muy rápido capaz de hacer ciertas cosas, pero aún muy lejos de sustituir al ser humano en los aspectos más complejos.”

―  PhD. Borja Manero Iglesias

Algo similar comentó durante el lanzamiento del libro undécimo de la colección OpenMind de BBVA el doctor Ramón López de Mántaras, sitio en el que explicó que aun cuando existen Inteligencias Artificiales capaces de realizar y leer pruebas médicas mejor que los propios doctores, no pueden ayudar al paciente en el contacto físico, con empatía, son incapaces de comprender y hacer cosas que a un humano le parecen de lo más fáciles porque las hacemos por propia naturaleza, de forma innata. Para este experto la tecnología y el humano se complementan a perfección.

“El binomio persona-máquina es mejor que los resultados de ambos por separado, sin lugar a dudas.” ― Ramón López de Mántaras

Olvidar no es una limitante humana que nos paralice, tenemos capacidad de aprender y hacerlo de forma reiterativa, nuestra capacidad para memorizar de forma natural es la epitome de cualquier ingeniero especializado en Inteligencia Artificial. Aprovechemos esa capacidad para hacer del aprendizaje para toda la vida el motto que nos guié durante este proceso de cambios asombrosos para la humanidad.

Bibliografía Consultada:
https://www.pnas.org/content/115/44/E10467
https://www.abc.es/ciencia/abci-olvido-catastrofico-perdicion-inteligencia-artificial-201905281851_noticia.html

 Imagen: Pixabay

Escrito por: Msc. Irasema Rivas-González

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *