¿Alexa, espía? Hasta dónde se puede confiar en el asistente virtual

Existe una conexión profunda entre la voz y las emociones.  Y la línea entre la voz real y la voz artificial está camino a desaparecer.

Cuando eso ocurra y nos comuniquemos con asistentes virtuales que además de entender lo que decimos sepan cómo nos sentimos al decirlo y puedan reaccionar en consecuencia, llegaremos a un preocupante estado de intimidad, porque entonces nadie sabe quién va a tener el control.

La revolución de la voz apenas ha comenzado, dice la columnista Judith Shulevitz en una extensa investigación que publica en portada la revista The Atlantic.  "Hoy Alexa es una humilde servidora. Muy pronto, podría ser mucho más: maestra, terapista, confidente, espía".

Y su presencia entre la gente aumenta por día.  Hasta fines del 2017 existían 40 millones de asistentes virtuales instalados en el mundo.  Cuando termine 2018, la cifra acumulada durante varios años se habrá más que duplicado en uno solo y entonces serán 100 millones.

Investigadores calculan que apenas dos años más tarde, en 2021, habrá casi tantos asistentes virtuales funcionando en el planeta como habitantes. Pasaron tres décadas antes de que la cifra de teléfonos celulares sobrepasara la de seres humanos, pero Alexa va a hacer lo mismo en menos de la mitad de ese tiempo.

Dentro de poco, todo, desde la iluminación de la casa hasta la regulación del aire acondicionado o la calefacción, el refrigerador, la cafetera e incluso el toilet, funcionará mediante la conexión a un sistema controlado por la voz.

Shulevitz cuenta que se sorprendió un buen día diciéndole a su Asistente Google cosas que no le decía a su esposo.  "Me siento sola", le confesó.  La respuesta del Asistente Google fue que desearía tener brazos para abrazarla. "Por ahora, algún chiste y un poco de música serán suficientes", dijo el aparato.

Son muchas las personas que han compartido ideas suicidas con Alexa.  En esos casos, la asistente virtual da un número telefónico disponible para la gente abrumada por la depresión.

Y también hay un extraordinario número de personas –sólo en 2017 fueron un millón, de acuerdo con Amazon– que le han preguntado: "¿Te quieres casar conmigo?"  La respuesta es: "Estamos en lugares muy diferentes de nuestras vidas".

Cuando dos personas hablan sin verse, cada una reconoce mejor los sentimientos de la otra, dice la autora del estudio.  La prueba es el diván de Freud, que distancia al paciente para entenderlo mejor.

Tanto Amazon como Google tienen "equipos de personalidad", encargados de conseguir el mejor tono de voz posible para sus asistentes virtuales. Shulevitz cuenta que ninguna de las dos compañías quiso decirle cuántas personas trabajan en esos equipos.

Fue en el Instituto Tecnológico de Massachusetts, conocido por sus siglas de MIT y una de las instituciones académicas más avanzadas del mundo, donde comenzaron hace dos décadas los experimentos de detección de emociones en los rostros, el lenguaje gestual y las voces, bajo la supervisión de la profesora de ingeniería Rosalin Picard.

Hoy Picard dirige el Laboratorio de Computación Afectiva de MIT, y cuenta que, a diferencia de los sistemas tradicionales de reconocimiento de lenguaje, que identifican sobre todo los nombres y los verbos, a ella le interesan más los adverbios, el "cómo" de las cosas, los sentimientos implícitos.

Una compañía fundada por ella en 2009, Affectiva, está hoy en manos de su antigua socia, que en medio de planes de entrar en el mercado de las computadoras para automóviles contrató a una experta en reconocimiento de las emociones en la voz, Taniya Mishra.

La misión de su equipo consiste en entrenar a las computadoras a interpretar el contenido emocional del discurso verbal.  Es un verdadero reto: el aparato debe aprender a reconocer algo que la intuición humana distingue naturalmente.  Lo más difícil, le dijo Mishra a la autora de la investigación, es crear suficientes bases de datos con discursos diferentes para "adiestrar" a la computadora.

Shulevitz encontró incluso alguien que fue capaz de enseñar a las máquinas a detectar el sarcasmo: Björn Schuller, profesor de Inteligencia Artificial del Imperial College de Londres y maestro de "Inteligencia Inducida" en la Universidad de Augsburgo, en Alemania.

Por este camino, explica la autora, no pasará mucho antes de que los asistentes virtuales sean capaces de discernir y reaccionar al estado de ánimo de sus usuarios, lo cual crearía un falso sentido de afinidad.

Ese vínculo podría usarse para bien, o para mal.

A Shulevitz le preocupan sobre todo los niños, que quedarán expuestos a voces cuyos "sentimientos" son fríos simulacros técnicos.  Pueden ser propensos a adoptar esa "interioridad" fabricada en masa, que limitaría la capacidad innata que tienen para descifrar sus propias intuiciones.

Y admite que, desde que terminó su investigación, mantiene apagado el micrófono de su iPhone y desconecta su asistente virtual cuando no lo está usando.