Dicen que no hay descanso para los malvados, pero este fin de semana, según Religious News Service hubo al menos tres iglesias que pasaron un mensaje póstumo de Charlie Kirk en el que les aseguraba a las congregaciones: “Estoy bien, no porque mi cuerpo esté bien sino porque mi alma está asegurada en Cristo. La muerte no es el final. Es una promoción, un ascenso”.

Por supuesto, no era Kirk quien hablaba desde el más allá. Se trató de un clip generado por IA antes de que lo transmitieran en esos templos, y que había pasado por las redes sociales. El audio parece haberse originado en TikTok, generado por el usuario NioScript, que posteó el mensaje de 51 segundos un día después del asesinato de Kirk. Desde entonces, lo han oído millones de personas y lo han compartido usuarios que se grabaron reaccionando con llanto al oír el mensaje generado por IA. Todo eso eventualmente derivó en que se reprodujera el audio en iglesias como la Bautista de Prestonwood en Texas, donde lo presenta el Pastor Jack Graham, aclarando que es IA pero que algo “lo movió” para compartirlo con su congregación, para que “oigan lo que Charlie dice sobre lo que le pasó la semana pasada”.

Repetimos, no lo dice Charlie Kirk. Pero eso no impidió que hubiera gente que lo tomara como si fuera real. Los de la Iglesia Bautista Prestonwood aplaudieron de pie, y en la Iglesia Dream City de Arizona y la Iglesia Awaken de San Marcos, California, el clip también fue recibido con aplausos según Religious News Service. En redes sociales, los usuarios respondieron al audio con comentarios como “Es exactamente lo que diría Charlie y pudiera hablarnos ahora mismo” o “Sé que es IA, pero no me digan que no es exactamente lo que él diría”.

Evoluciona la forma de recordar

Esta forma de duelo no le es única a este caso. La gente siempre ha buscado recordar y preservar a quienes aman después de su muerte, y la tecnología facilita nuevas formas de lograrlo, así sea con una serie de fotos que despiertan recuerdos, o con la presencia en línea de la persona convertida en memorial digital. En el mundo de la literatura, eso se llama vínculo continuado. En un aspecto, un clip de audio o video generado por IAI como sucede aquí, no difiere mucho de contar historias sobre la persona, o mantener vivo su recuerdo.

Pero lo que sí es diferente es que se trata de algo fabricado. No es un recuerdo, que también puede tener fallas, sino un invento y sí, tal vez tenga acceso a las palabras, la imagen y la voz de Kirk, que están por todos lados en Internet. Pero es un modelo de lenguaje incapaz de hacer nada más que tratar de llenar el vacío para quienes lo lloran.

La creación de versiones de IA que son réplicas de alguien fallecido para ayudar a  lo largo del duelo se ha convertido en una industria en crecimiento. Un artículo reciente de Nature destaca los distintos esfuerzos por entender mejor si los chatbots entrenados con la imagen y voz de alguien pueden ayudar a los deudos a elaborar los sentimientos intensos y complejos que vienen con la pérdida de un ser querido. Aunque hay algo de evidencia que sugiere que los usuarios de “bots de duelo” encuentran cierto sentido de cierre, hay riesgos reales de que se perjudique a quienes están en estado emocional frágil porque puede hacer que sea más difícil dejar ir a la versión bot de la persona.

También existe el riesgo de que sencillamente no somos capaces de diferenciar entre aquellos recuerdos reales y los generados por IA que se implantan en nuestras mentes con este tipo de interacciones. Un estudio del MIT Media Lab halló que exponer a una persona, aunque sea a una sola imagen editada con IA, puede afectar los recuerdos, y quienes estuvieron expuestos a imágenes generadas por IA “informan altos niveles de confianza en sus falsos recuerdos”.

El debate sobre los recuerdos con IA

La realidad para quienes recuerdan a Kirk de esta manera es que la gran mayoría de esas personas no lo conocieron. Tienen con él una relación parasocial que les gustaría que continuara, y el mensaje de IA les permite hacerlo porque en sus mentes, capta su voz o capta – mejor dicho – lo que quieren oír.

Ya hay instalado un debate sobre quién era exactamente Charlie Kirk y cómo hay que recordarlo, sin que se inyecte en la conversación una versión de él generada por IA. Pero para quienes lloran su muerte, si creen que en esa voz de IA hay algo del alma de Kirk, tal vez lo mejor será dejar las cosas tal como están.

Este artículo ha sido traducido de Gizmodo US por Romina Fabbretti. Aquí podrás encontrar la versión original.