Inteligencia Artificial: ¿Un nuevo reproductor de sesgos?

 En medio de la fascinación por las novedades que las IA nos brinda, se esconden ciertos elementos que moldean el futuro y podemos reconocer muy bien: sesgos, nula perspectiva de género y el reflejo de una sociedad que ya no queremos ser.

Hace unos meses atrás, un conjunto de científicos y empresarios tecnológicos, reconocidos mundialmente, publicaron una carta abierta en donde hablaban de las posibilidades pero también dificultades que traen aparejadas las herramientas de la IA. En un momento en donde la tecnología ha logrado fascinar a los individuos de diversas generaciones con todo lo que la inteligencia artificial puede brindar, estos debates pendulares con opiniones antagónicas son complejos de digerir.

Pese a los peligros que las IA pueden presentar en cuanto a herramienta, autoría y empleabilidad, existe un planteo concreto que aún no ha marcado agenda, pero creemos que pronto lo hará. La reproducción de estereotipos de género y los sesgos que pueden presentar estas herramientas tecnológicas, tienen la posibilidad de destruir todo lo construído hasta el momento en nuestra sociedad.

Las asistentes virtuales son un ejemplo caro de ello, ya que son herramientas tecnológicas sumamente útiles para manejarnos la agenda, buscar conceptos o respuestas para nosotros y hacernos la vida más sencilla. El contacto, por supuesto, es con una voz femenina que nos llama por nuestro nombre y está siempre disponible. En la película Her podemos ver cómo puede llegar a funcionar una convivencia con dichas asistentes en el futuro. 

Sin embargo, las IA no solo existen en representación femenina, sino que pueden amoldar todo un género con sus posibilidades. Es el caso de aquellas aplicaciones que colocan filtros en nuestros rostros con el fin de “mejorar estéticamente” se centran en miles de elementos aplicables a las mujeres, dejando para los hombre solo un tercio de ellos. 

Cuando los debates toman sus posiciones teóricas y podemos comprender que las tecnologías son instituciones sociales atravesadas por relaciones de poder, podemos verlo todo más claro. Las aplicaciones y herramientas relacionadas con la inteligencia artificial son creadas desde algoritmos, es decir, las crean personas que programan sus acciones en formatos de posibles respuestas a preguntas clásicas. Las preguntas nacen de manera automática: ¿quiénes son las personas que programan estos algoritmos?, ¿de dónde surgen las posibles preguntas y debates que deben ser programadas?, ¿existe una perspectiva de género al momento de programar las herramientas “del futuro” como le llaman a la IA?

Estas relaciones de poder crean un espejo en las tecnologías, en donde se instala la necesidad de accesibilidad y usabilidad, sin pensar en su uso social. El foco está puesto en cómo la tecnología - y sobre todo la AI - puede transformar nuestro mundo, sin pensar que lo transforma a través de las estructuras que nosotros mismos creamos para ella. Estructuras que, ya pudimos ver, son nocivas para la igualdad de género, la pluralidad de voces y la libertad individual y colectiva. 

Uno de los principales interrogantes que surgen al momento de hablar de la llegada masiva de la IA a nuestras vidas, es cuán buenas o malas son para nuestra sociedad y quizás ese sea el error. Los avances tecnológicos no deberían mirarse como algo ya creado que viene a invadirnos y someternos, son una creación humana que posiblemente perdure mucho más que las generaciones que los crean, por lo que deberíamos crearla con lo mejor que podemos dar y tener hoy. El sentido de la evolución comienza con el objetivo de poder ser una mejor sociedad en el futuro, de lo que fuimos en el presente y para ello debemos pensarnos en igualdad.