El reconocido violinista canadiense Ashley MacIsaac asegura que fue etiquetado erróneamente como un delincuente sexual condenado por la función AI Overview de Google, lo que llevó a que organizadores de conciertos cancelaran una presentación la semana pasada.

Antes de continuar, necesito que veas el videoclip de “Sleepy Maggie” de Ashley MacIsaac (con voces en gaélico escocés de Mary Jane Lamond). Al no ser de Canadá, donde esta canción fue un éxito en 1995, nunca había disfrutado de este suntuoso festín de imágenes y sonidos noventeros hasta hoy, pero ese descuido quedó corregido gracias a esta noticia. Para mejores resultados, enciende un cigarrillo de clavo antes de darle play.

Las terribles acusaciones

En fin, según un artículo publicado el martes en The Globe and Mail, el hombre del video con el violín, Ashley MacIsaac, se preparaba para actuar en la comunidad Sipekne’katik First Nation, en el centro de Nueva Escocia, cuando los organizadores se retiraron de forma repentina, aparentemente tras leer que MacIsaac tenía en su historial condenas espeluznantes por agresión sexual y “captación por internet”.

Más tarde, cuenta MacIsaac, se supo que esos organizadores habían visto un resultado de Google AI Overview que mezclaba su biografía con la de otro MacIsaac —mucho más terrible— también originario del este de Canadá.

Probablemente recuerdes la controversia en torno a la función AI Overviews de Google en 2024, cuando debutó y rápidamente se convirtió en motivo de burla tras sugerir cosas como poner pegamento en la pizza. En mi caso, le di seis meses para mejorar antes de evaluarla y encontré varios tipos de errores extraños que seguía cometiendo en lo que consideré simulaciones plausibles de usos reales. En ese momento, Google me dijo que aún tenía “trabajo por hacer en el aspecto de la calidad”.

Si la caracterización de MacIsaac es correcta, ese trabajo sigue pendiente, y es urgente que no se cometan errores como el que se denuncia aquí. Hay una cita destacada en The Globe and Mail de Clifton van der Linden, profesor asistente en la Universidad McMaster que investiga la desinformación por IA: “Estamos viendo una transición en los motores de búsqueda, de ser navegadores de información a narradores”, dijo al periódico.

¿Cómo es posible esto?

Los AI Overviews son fragmentos de texto originales, algo así como respuestas de un chatbot generadas al momento cuando se realiza una búsqueda en Google. Se derivan de todo lo que Google puede encontrar en línea y que parece relacionado con el tema buscado. Nunca sabes cómo alguien puede formular una búsqueda sobre ti, porque las posibilidades son infinitas, y por lo tanto nunca sabes cómo puede fallar un AI Overview.

MacIsaac se pregunta en el artículo de The Globe and Mail si otras personas lo buscaron en Google y vieron resultados similares sin decírselo. Considera esto una posible causa de preocupación, porque cree que pudo haber perdido trabajo o incluso haber ganado un enemigo que creyó lo que leyó y decidió hacerle daño.

Por su parte, la vocera de Google Wendy Manton dijo a The Globe and Mail lo siguiente: “La Búsqueda, incluidos los AI Overviews, es dinámica y cambia con frecuencia para mostrar la información más útil. Cuando surgen problemas —como cuando nuestras funciones malinterpretan contenido web o pierden contexto— usamos esos ejemplos para mejorar nuestros sistemas y можемos tomar medidas conforme a nuestras políticas”. El periódico también señala que Google “corrigió los resultados de búsqueda del músico”.

Además, un representante de la comunidad Sipekne’katik First Nation le dijo a MacIsaac: “Lamentamos profundamente el daño que este error causó a tu reputación, tu sustento y tu sensación de seguridad personal”, y le indicó que sería bienvenido a actuar allí en el futuro, según relata el propio músico. The Globe and Mail no obtuvo respuesta de Sipekne’katik First Nation cuando solicitó un comentario.

Todo esto suena a demasiados problemas para demasiadas personas a causa de una aparente alucinación de la IA. Pero bueno, al menos aprendí sobre “Sleepy Maggie”.

Este artículo ha sido traducido de Gizmodo US por Martín Nicolás Parolari. Aquí podrás encontrar la versión original.