Inteligencia Artificial y Diseño de Experiencias de Usuarios ¿Dónde queda la cuestión ética?

“No podemos escapar de la ética.” -Peter Singer

Los avances tecnológicos y las inversiones comerciales no deberían estar al margen de la ética en un siglo que destaca por el ideario del Conocimiento. De hecho, ni usted ni yo podemos estar al margen de ella.  

Observando tantas personas absortas a diario con un teléfono móvil surge una interrogante ¿Es ético el diseño detrás de las aplicaciones móviles? ¿Cuán ética es la información que se comparte en la red? ¿Toman en serio la cuestión ética los diseñadores de productos y soluciones tecnológicas?

De primera mano, podría parecer que sí, pero investigando un poco nos damos cuenta de que en la mayoría de las empresas no existe aún un código ético que aborde los desarrollos tecnológicos ni el uso de la tecnología para obtener resultados comerciales.

En temas como el diseño UX o el desarrollo de bots es necesario detenerse para analizar las implicaciones éticas que inocentemente o por desconocimiento se pasan por alto.

Video: Computer Hoy

Al tratar con personas y con temas tan sensitivos como los datos, la información personal, su privacidad e interacción entre agentes naturales y artificiales es necesario establecer procesos éticos. Dejar las acciones y decisiones a la política ética de la empresa, a los valores morales de los empleados y al sentido común no es recomendable.

Valores e intenciones

Con tanta información al alcance de las personas, con la tendencia a copiar modelos exitosos de otras latitudes, con plazos muy cortos y poca experiencia se pueden generar problemas éticos insospechados.

Por definición, un diseñador es una persona que crea ―un diseño― y en ese proceso creativo están involucrados sus valores y creencias, sus conocimientos sobre la materia, así como, lo que él considera que debe o no hacer para que la empresa logre sus objetivos.  Son estos los valores existenciales, lo que define la existencia de la profesión y los valores que rigen en el proceso de creación que lleva a cabo.

Las intenciones son fundamentales, suponemos que la tecnología es una herramienta para mejorar y ayudar al humano ¿Realmente pone el diseño al usuario por encima de los intereses de la empresa? ¿El diseño tiene intención de manipular con un objetivo comercial? Equilibrar los objetivos de la empresa y las necesidades del usuario en el diseño es una tarea compleja.

La experiencia de usuario supone colocar las necesidades de los usuarios por encima de todo diseño, de todo lo creado. ¿Se realiza de esa manera?

Ética en las decisiones de diseño UX

Algunos diseñadores utilizan los llamados “patrones oscuros” (dark patterns) que son patrones diseñados deliberadamente para engañar al usuario para que compre o proporcione que no pretendía, agregar cargos adicionales que aparecen en letra pequeña y en una ubicación poco visible., estos son métodos de diseño claramente poco éticos con el objetivo de obtener lograr un KPI.

Con la proliferación e importancia que han adquirido las métricas surgen forma incorrectas o poco éticas para generar tráfico, sugestionar a través de datos a los usuarios para que se comporten de determinada manera, son acciones que ponen en entre dicho el comportamiento ético del diseñador de experiencias de usuario.

Pocos conocemos el análisis de reconocimiento y desconstrucción de scripts en los diseños, lograr hacerlo nos permite descubrir la visión del diseñador y en ocasiones las intenciones subyacentes en lo creado. La ética está más presente de lo que creemos en cada decisión que tomamos al diseñar o colocar un código.

World Economic Forum
La Inteligencia Artificial y la ética

Preocupados por las implicaciones éticas del desarrollo de IA en el mundo, cada vez, son más las empresas que apelan a una legislación que se enmarque en temas clave para asegurarnos de que estamos haciendo uso de la tecnología para el bien común.

Prudencia: Se sugiere ser prudentes al desarrollar inteligencia artificial y ponerla en productos que utilicen las personas (no dejarse llevar por la carrera científico comercial para ser los primeros en el mercado con la nueva tecnología o solución).

Fiabilidad: Los desarrollos de IA deben ser fiables y seguros, todos los sistemas de Inteligencia Artificial tendrían que pasar pruebas que determinen su fiabilidad y seguridad.

Rendición de cuentas:  De tomar decisiones de forma autónoma, programada o aprendida, todo sistema artificial debe rendir cuentas. Por ejemplo, si una IA decide en un juicio o toma una decisión que pone en desventajas a un grupo de personas sobre otro, las personas afectadas por esa decisión deben recibir, una explicación en lenguaje claro y sencillo (no técnico), que sustente la decisión, permitiendo el cuestionamiento y reclamo por parte del afectado. No podemos decir, la IA determinó que es así y darlo por hecho.

Responsabilidad: Toda interacción de personas con un sistema de inteligencia artificial, debe incluir, un protocolo de responsabilidad, donde se localice e identifique a la empresa o personas naturales responsables de la IA.

Reglamentación: Es necesario contar con reglas claras que limiten el comportamiento de los sistemas de inteligencia artificial autónomos (no dejarles un libre albedrío) para que los encargados de desarrollarlos puedan incorporarlos en sus aplicaciones.

Rol Humano: Al desarrollar y utilizar IA el ser humano debe estar primero.  Si surgiese un tema donde no hay referencia o un conjunto de datos para el aprendizaje automático de estos sistemas el criterio humano debe privar.

Los puntos expuestos forman parte de la «Declaración de Barcelona para un desarrollo y uso adecuados de la inteligencia artificial en Europa» y son una referencia sobre la conversación de la que todos debemos participar, la que implica la relación entre las personas y los agentes artificiales creados por el hombre.

Se escriben nuevos capítulos en la historia de la humanidad, capítulos donde la tecnología tiene que seguir estando al servicio de las personas aun cuando el fin último sea crear inteligencia que emule completamente a la inteligencia humana. Hay una relación cada vez más estrecha entre las personas y los desarrollos de IA, muchas veces desconociendo que implicaciones éticas conlleva lo que estamos experimentando.  No cabe duda, es necesaria mayor divulgación, educación y discusión sobre ética en la tecnología.

Referencias Consultadas:

www.iiia.csic.es/barcelonadeclaration

Imagen: Pixabay

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *