Inteligencia Artificial: algoritmos y sesgos

“Si no arreglas el sesgo ―del humano que crea el algoritmo―lo único que estás haciendo es automatizar el sesgo. Y eso es aún más peligroso.”

― Alexandria Ocasio-Cortez

¿Qué es sesgar? ¿Cómo afectan los sesgos? ¿Existen sesgos en los algoritmos? ¿Es la Inteligencia Artificial una incubadora de sesgos humanos?

Sesgar es la acción de caer en un error sistemático al hacer muestreos o ensayos seleccionando o favoreciendo unas respuestas o propuestas frente a otras. Y parece ser, más común, de lo que creen los que promueven la inteligencia artificial, sin tomar en cuenta el factor humano (los mismos que la desarrollan) y su rol en el producto final.

Hay que partir del hecho de que no toda decisión tomada por una máquina es incuestionable, todo lo contrario. Cada algoritmo que se alimenta de datos y aprende de ellos, debe ser cuestionado por expertos de diversas áreas (lo que se hace en grandes corporaciones y aún así se encuentran fallos por sesgos.) para minimizar los sesgos subyacentes.

Desde los años 80 la sociedad mundial se encuentra afrontando el problema de los algoritmos con sesgo racial y de género. Lo ha sufrido Amazon, lo experimenta Google y la mayoría de los proyectos que tienen una base de datos (previamente sesgada) de la cual se alimenta y aprende el algoritmo que hace el trabajo. Y este sesgo viene de las personas (y de no colocar suficientes controles, o no incluir agentes multidisciplinarios en el estudio/ sociólogos, filósofos, antropólogos, humanistas, etc.) que intervienen en la cadena de creación.

Sesgos en los algoritmos

Cuando un sistema desarrollado refleja los valores de los humanos que están o estuvieron implicados en su creación, recolección de datos o en su codificación, se dan los sesgos algorítmicos. Y aparece en nuestra vida cotidiana, tan a menudo que es difícil para muchos identificarlos.

Convivimos con ellos, listemos algunos ejemplos de existencia de sesgos:

  • En los resultados de las búsquedas en la red
  • En las redes sociales.
  • En las bases de datos de reclutamiento que usan aprendizaje automático.
  • En las bases de datos policiales (que responden a perfiles con predisposiciones negativas hacia una raza o cultura en particular)
  • En elecciones políticas.
  • En decisiones de ingreso a universidades.
  • Otorgamiento de prestamos.

Los sesgos pueden ser intencionados o involuntarios. Responden a la propia naturaleza del ecosistema complejo (sociedad) en el que se desarrollan los algoritmos. El mayor problema se da en la medida en la que la Inteligencia Artificial es utilizada como un “gran e infalible organizador de la sociedad y de sus procesos” al que se le da toda la confiabilidad y autoridad.

Todos los datos, de alguna manera son susceptibles de manipulación, por más controles que existan, pueden ser objeto de un ataque externo o interno malicioso. Por otro lado, es posible que los mismos desarrolladores pasen por alto que sus propios sesgos, conocimientos y limitantes en cuanto a conocimientos se verán reflejados en los algoritmos a su cargo.

¿Qué influye en el sesgo?

En el sesgo influyen factores tales como:

  • Cultura y costumbres
  • Conductas sociales
  • Criterio y política institucional
  • Limitaciones técnicas
  • Ambientes controlados o no controlados para su uso.
  • Consideraciones de uso limitadas a un grupo específico.

La discriminación sistemática e injusta es el objeto de estudio y critica más divulgado que se conoce hacia los algoritmos, pero hay otros sesgos más sutiles, solo en el tema de sexo es una tarea titánica porque la igualdad de género se demuestra con acciones, no con palabras. En muchas ocasiones los campos donde funciona el algoritmo, donde se desarrolló, son exclusivamente masculinos, entonces es imposible que refleje neutralidad.

“Los sesgos algorítmicos son culturales, técnicos y reflejan el comportamiento de los humanos que los diseñan.”

Hace poco una persona comentaba en un post en un muro de una red profesional que los algoritmos si están bien diseñados, no deben tener sesgo, nada más lejos de la realidad, no tiene que ver con diseño, tiene que ver con “gente” con la humanidad que está intrínseca en el diseño y la gestación de los mismos. Toda opinión en temas de Transformación Digital afectando a personas, con conocimiento de causa o sin él, también es y debe cuestionarse.

Aunque son considerados y promocionados, por muchos, como neutros y sin sesgos, al punto que ponen su confianza ciega en ellos, no lo son. No deje en manos de un algoritmo las decisiones que afectan a humanos sin antes haber sido evaluado y probado desde distintas perspectivas, hasta las menos esperadas.

Al embarcarse en el fascinante mundo de los algoritmos no olvide que:

“Igualdad de derechos para todos, privilegios especiales para nadie”-Thomas Jefferson. Clic para tuitear

Imagen: Pixabay

Referencias consultadas:
Disponible en: https://www.technologyreview.es/s/10924/como-se-produce-el-sesgo-algoritmico-y-por-que-es-tan-dificil-detenerlo
Disponible en: https://www.bbc.com/mundo/noticias-50074948

Escrito por: Msc. Irasema Rivas-González

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *