Empatía Artificial: apuntes para pensar cómo estamos siendo hackeados por la IA

En ese momento, las computadoras eran mecanismos que ocupaban habitaciones enteras y se usaban para hacer cálculos matemáticos, en especial para el ejército de Estados Unidos. En el Smith College de Massachusetts, los psicólogos Fritz Heider y Marianne Simmel hicieron un experimento con una película de animación muy sencilla en la que se mostraban tres figuras geométricas: un triángulo grande, un triángulo más pequeño y un círculo. Las figuras se movían de distintas maneras dentro y fuera de un gran cuadrado que abría y cerraba uno de sus lados.

El video dura poco más de un minuto y medio, y está en internet. Los participantes tenían que mirar el video y contar qué habían visto. El 97% de las casi 120 personas que participaron hablaron de intenciones humanas, sentimientos y tramas narrativas. Ninguno usó términos físicos o geométricos del tipo "un triángulo se movió 4 centímetros para abajo".

La percepción más común era que los dos triángulos eran varones compitiendo por una chica, representada por el disco. El triángulo mayor fue percibido casi siempre como un sujeto "agresivo y pendenciero" y al triángulo más pequeño como alguien "desafiante y heroico" que intentaba proteger al círculo, que se veía "tímido". Una historia trillada, pero historia al fin.

La conclusión de Heider fue que las personas somos "científicos ingenuos". Para poder darle sentido al mundo, ligamos lo que vemos a una causa inobservable o interna. Encontrar esas causas nos permite entender a los demás y hacer que la vida social sea predecible.

Los humanos buscamos explicaciones basadas en intenciones y rasgos de personalidad y podemos atribuir motivaciones humanas a objetos. Proyectamos nuestras propias experiencias y emociones sobre las cosas, dotándolas de capacidad de decisión e intención. Lo hacemos con cualquier cosa que aparente actuar con independencia: animales, fuerzas naturales, dioses, dispositivos electrónicos y algoritmos. Este fenómeno se llama antropomorfismo, la tendencia a atribuir cualidades humanas a objetos inanimados.

No hablamos de la vieja idea de pensar que todo lo que nos rodea tiene vida, o por lo menos no de manera tan literal. Los estudios clásicos sobre la materia hablan de tres elementos que hacen que el fenómeno se repita en todas las culturas y etapas del desarrollo.

El primero tiene que ver con que es imposible experimentar qué siente o piensa un animal, un dispositivo, un dios invisible. Lo que tenemos a mano es nuestra propia mente: es la información más rica, detallada y de más fácil acceso que poseemos. Usamos el conocimiento que tenemos sobre nosotros mismos para tratar de entender lo desconocido y en ese movimiento le otorgamos cualidades mentales parecidas a las nuestras.

El segundo, tiene que ver con vivir en un mundo complejo, ambiguo y bastante confuso. Necesitamos darle sentido para poder predecir cómo se comportarán las cosas en el futuro. Atribuir motivaciones, pensamientos o intenciones humanas a las cosas también es un manera de bajarle el volumen a la incertidumbre y hacer que el entorno parezca más predecible.

Y, por último, hay una motivación de sociabilidad. Cuando las personas experimentan soledad, rechazo social o aislamiento crónico, suelen antropomorfizar a deidades, mascotas u objetos como una estrategia psicológica para compensar la falta de conexión humana.

Mi primer chatbot

Eliza es un clásico en el mundo de los chatbots y de la computación. La creó en 1966 Joseph Weizenbaum, un profesor de informática del MIT. El programa detectaba palabras clave y devolvía frases escritas. El guion imitaba a un terapeuta humanista y convertía las afirmaciones del usuario en preguntas. Si uno le decía que estaba angustiado, Eliza respondía: ¿Por qué te sientes angustiado? El diálogo podía volverse extraño después de varios turnos, pero en un primer momento el efecto era sorprendente. Tanto, que redefinió la interacción entre humanos y computadoras y marcó el estándar de la arquitectura conversacional que se usó hasta la llegada de los modelos de lenguaje.

Si prometen no colgarse hablando con ella, acá les dejo una muestra de cómo funcionaba:

En un artículo de 1967, Weizenbaum contó que su secretaria, que lo había visto programar a Eliza durante meses, le pidió probarla. A las pocas interacciones empezó a sentirse incómoda, no con el programa, sino con la presencia de otras personas. "¿Te importaría salir de la habitación?", le preguntó a su jefe. Quería tener más intimidad.

Para muchos, que la mujer haya olvidado que hablaba con una máquina era un éxito: con pocas líneas, se podía simular empatía y superar el test de Turing. Para él, era una amenaza. En su libro de 1976, "Computer Power and Human Reason" escribió que le había aterrorizado comprobar que "exposiciones extremadamente cortas a un programa informático relativamente simple podían inducir un pensamiento delirante poderoso en personas normales". Esto fue hace casi sesenta años. La idea pasó a la historia como el "Efecto Eliza": pensar que estamos conversando con un ser vivo cuando del otro lado hay una máquina. Es un efecto cognitivo y conversacional: se desencadena en el lenguaje.

Las computadoras como actores sociales

Y ahí quizás esté una de las claves para entender el vínculo que tenemos con la IA generativa. Son máquinas capaces de provocar la ilusión de que generan lenguaje.

Hay un autor del cyberpunk, Erik Davis, que lo dice muy bien: "Aunque la escritura se ha convertido en el mayor lugar común de las tecnologías de la información, sigue siendo en muchos sentidos el más mágico." Hasta hace pocas décadas esa magia era solo nuestra. Clifford Nass, científico de Stanford y uno de los investigadores de la interacción humano-máquina, decía que nuestro cerebro evolucionó en un entorno donde cualquier cosa que hablara o usara lenguaje escrito era un ser vivo con intenciones, sentimientos y un rol social.

A mediados de los años noventa, Nass desarrolló una idea que se volvió un clásico de los estudios sobre tecnología: las computadoras son actores sociales. Su hipótesis era que el lenguaje funciona como un disparador social automático. Cuando las computadoras empezaron a interactuar mediante texto en una pantalla o voces sintéticas, los seres humanos les aplicamos las mismas reglas que usamos con otras personas. Nass llamó a este fenómeno ethopoeia: responderle a algo como si fuera humano sabiendo que no lo es. Para explicarlo, usó el concepto de mindlessness: nuestra atención se concentra en unas pocas señales relevantes y deja en segundo plano el hecho evidente de que estamos frente a una máquina.

No lo hacemos porque creamos que las máquinas tienen conciencia, sentimientos o intenciones, sino porque ciertas señales mínimas -el lenguaje, la interactividad y la capacidad de ocupar roles tradicionalmente humanos- activan scripts sociales profundamente aprendidos. Y esos guiones sociales vienen cargados, inevitablemente, con todas las categorías y sesgos que organizan nuestras relaciones: género, etnia, autoridad, cortesía, reciprocidad y pertenencia grupal.

Nass también decía que las respuestas sociales hacia las computadoras son fáciles de lograr y que se vuelven "incurables" enseguida. Las pueden generar interfaces de baja complejidad, algo que tiene muchas implicaciones a la hora del diseño, incluso a nivel gráfico.

En el campo del comercio electrónico está bastante estudiado qué tipo de avatares sirven para vender más. Es sabido que los seres humanos tenemos una preferencia innata por los rostros, que viene de fábrica. La tendencia a encontrar caras en lugares (el viejo y querido "tiene carita") es parte de nuestra habilidad o condena de detectar rasgos antropomórficos en formas sencillas.

Volvemos al experimento de Heider y Simmel, pero desde otro lado. Un círculo que se mueve al ritmo de las palabras, un par de ojos con una sonrisa e incluso elementos más simples sirven para reforzar la interacción social humano/máquina. Algunos estudios sobre el uso de avatares en el comercio electrónico plantean que las figuras hiperrealistas y animadas de los chatbots generan rechazo porque caen en el llamado "valle inquietante", mientras que las figuras más sencillas e incluso las caricaturas son más eficientes y atractivas.

Artefactos relacionales

Sherry Turkle, una psicóloga clínica del MIT que estudia el vínculo humano/computadora, fue una de las académicas que en los 90 recibió el nacimiento de la red con el mismo entusiasmo que compartimos millones de personas curiosas. Decía que la red era un espacio de libertad, creatividad y exploración personal. Las identidades anónimas, decía, podían ayudar a las personas a descubrir aspectos ocultos de su personalidad y a sanar traumas en la vida real. Las salas de chat y los foros eran espacios de exploración y creación de comunidades de apoyo.

Hoy dice que las redes sociales fueron una droga de iniciación para las conversaciones fingidas con las máquinas.

Las entrevistas de Sherry Turkle a niños que juegan con robots son clave para su libro Alone Together. Para su investigación llevo a escuelas y hogares juguetes interactivos como Furbies, el perro robot AIBO de Sony, y la muñeca interactiva My Real Baby. En las entrevistas que hizo después, formuló la idea de los "artefactos relacionales" para nombrar a los aparatos preparados para simular estados emocionales y demandar atención.

El juego tradicional requería mucha fantasía. Con los robots, Turkle descubrió que la dinámica cambia por completo. Los humanos estamos programados para encariñarnos con aquello que cuidamos. Cuando los niños alimentaban al robot y este emitía un sonido de satisfacción, el cerebro del niño asumía que la máquina sentía gratitud.

Es un cuidado fácil, sin muchas consecuencias reales. Como mucho, un botón de refresh, un service, un cambio de batería. Y en los últimos años, esa relación se volvió cada vez más de ida y vuelta. Nadie nos escucha como ellos. Los vínculos con los bots eliminan la fricción, los juicios y la ambivalencia de las personas. La IA ofrece validación constante sin pedir a cambio nada más que nuestro tiempo y nuestra atención. El peligro actual, dice Turkle, está en que las personas han comenzado a aceptar esta "empatía fingida" como si fuera suficiente. El apocalipsis quizás no sea que los robots se vuelvan superinteligentes, sino que los humanos nos volvamos más simples.

Lectura complementaria [no obligratoria]