OpenAI bloquea la posibilidad de que los usuarios hagan videos generados con IA del fallecido líder de los derechos civiles Martin Luther King Jrl, con el modelo Sora de generación de videos. La compañía lo anunció el jueves, en declaraciones conjuntas con los herederos de King.
Según OpenAI hubo usuarios que crearon “representaciones irrespetuosas” de King. A pedido de sus herederos, la compañía dijo que bloquea la posibilidad de que los usuarios generen videos del activista en su esfuerzo por “proteger con salvaguardas más rigurosas a las figuras históricas”.
“Aunque hay fuertes intereses que protegen la libre expresión al representar a figuras históricas, OpenAI cree que las figuras públicas y sus familias son quienes deben tener el control de cómo se usan sus imágenes”, declaró la compañía.
OpenAI añadió que los representantes autorizados o herederos de otras figuras históricas ahora pueden pedir que sus imágenes no se utilicen en videos generados con Sora.
Hace poco OpenAI lanzó su avanzado modelo de videos de IA Sora 2 junto con una nueva app de redes sociales al estilo TikTok. La app permite que los usuarios carguen su propia imagen, conocida como cameo, para crear videos generados con IA de sí mismos, sus amigos, celebridades y personajes de ficción.
Desde su debut hace tan solo unas semanas, OpenAI tuvo que empezar a realizar ajustes al funcionamiento de la app, buscando el equilibrio entre la libre expresión y el mal uso de la IA.
El CEO de OpenAI Sam Altman dijo en un posteo de X que la compañía sentía cierto nivel de “temores” al lanzar su nuevo modelo y app de red social.
“Las redes sociales han tenido buenos efectos en el mundo, pero también hay malos efectos. Sabemos que este servicio podría ser adictivo y podemos imaginar las formas en que podría usarse para hacer bullying”.
Más respeto, por favor
No le llevó mucho tiempo a la gente el usar Sora de maneras muy extrañas. El Washington Post informó de clips generados por Sora con celebridades fallecidas como Michael Jackson, Amy Winehouse y Whitney Houston, que inundaron las redes sociales. Informaron que hay usuarios que muestran cosas irrespetuosas, aunque algunos otros son tributos. Por ejemplo, hay videos de King haciendo ruidos de mono durante su discurso de “Tengo un sueño”, y luchando con el otro activista de derechos civiles Malcolm X. Algunos familiares de los ya fallecidos se quejaron, y pidieron que la gente deje de compartir videos de IA con sus parientes.
Zelda Williams, hija del fallecido actor Robin Williams, posteó en Instagram este mes, pidiendo que la gente deje de enviarle videos generados con IA de su padre. No se sabe si se refería a videos generados con Sora, pero su posteo fue poco después del lanzamiento de la app.
Bernice King, hija de Martin Luther King Jr., escribió en Instagram sobre los comentarios de Williams: “Estoy de acuerdo contigo, en cuanto a videos de mi padre. Por favor, ya no lo hagan”.
La última movida de OpenAI se hace eco de su giro en cuanto a cómo gestiona el material con derechos de autor.
Después de solicitar a los propietarios de derechos de autor que dejaran de reclamar que sus contenidos aparecieran en videos generados con Sora, Altman anunció este mes que pasará a un modelo “con opción” que “les dará a los propietarios de derechos de autor un control más rigurosos sobre la generación de personajes”.
Este artículo ha sido traducido de Gizmodo US por Lucas Handley. Aquí podrás encontrar la versión original.
