Hay al menos uno de los grandes cerebros de la IA en DeepSeek, líder chino entre los chatbots, que anunció su preocupación, al igual que otras luminarias de la IA de EE.UU. Piensa que la IA perjudicará al mundo.

Sin embargo, en China a diferencia de EE.UU. el estado puede – y lo hace – regular la tecnología con mano dura, y en ese contexto el sentimiento tiene sustancia un poco mayor que cuando, por ejemplo, San Altman de OpenAI habla elogiosamente de sus futuras inversiones diciendo cosas como: “La IA probablemente nos lleve al fin del mundo pero mientras tanto habrá grandes compañías”.

El avance de DeepSeek

Poniéndolo en contexto, a principios de este año DeepSeek, ala de la IA poco conocida y propiedad de un fondo de inversiones de Hangzhou, provincia de Zhejiang, hizo su explosiva entrada en escena por alcanzar de repente el santo grial del mundo tecno: su propio gran modelo de lenguaje de avanzada, DeepSeek-R1.

Tras su inicial éxito, el equipo de DeepSeek se mantuvo casi en silencio casi todo el año, pero el investigador principal de DeepSeek Chen Deli finalmente rompió el silencio de la compañía sobre si finalmente lo que hacen será bueno o malo para la sociedad. Según Chen, es muy posible que sea malo.

“Soy muy positivo respecto de la tecnología, pero mi visión sobre el impacto que podría tener en la sociedad es negativa”, dijo en público Chen durante la Conferencia Mundial de Internet organizada por el gobierno en Wuzhen.

En enero Chen mostraba mejor humor al tuitear que “no tenía palabras” y que el logro de su compañía con el modelo de bajo costo “era como un sueño”. Eso fue en enero. Luego, en febrero el fundador de DeepSeek Liang Wenfeng se reunió con el presidente Xi Jinping en un simposio televisado. Y después de eso, según señala Reuters, nadie de la compañía ha hablado en público hasta el momento deprimente de las expresiones de Chen en la Conferencia Mundial de Internet.

La IA y el mundo laboral

Chen está diciendo que la IA pondrá en riesgo los empleos en la próxima década cuando ya sea lo suficientemente buena como para reemplazar a las personas, pero las firmas de IA tienen trabajo que hacer cuando se trata de evitar un desastre para la humanidad. “La sociedad podría enfrentarse a un enorme problema, por lo que las compañías tecnológicas deben asumir la postura del defensor”.

Siendo realistas, no son las compañías estadounidenses a las que Chen se refiere como potenciales defensoras. Su compañía está muy vinculada a otras compañías chinas, y varias de ellas han buscado integrar productos de IA de DeepSeek desde que se lanzó este año el modelo R1, en lo que se conoce como “soberanía algorítmica”, un plan que busca hitos avanzados en la IA sin participación extranjera. Hace poco más de un mes DeepSeek comunicó lo que dio en llamar una versión “experimental” de su modelo de lenguaje, notable no tanto por su eficiencia o nuevas capacidades sino por su creación de una alternativa al CUDA API de Nvidia y su apoyo a GPUs de China.

Xi dijo en el foro de Cooperación Económica Asia-Pacífico 2025 que debería haber un organismo global que gobernara la IA, y que tal organización gubernamental internacional debería ocuparse de hacer de la IA “un buen público para la comunidad internacional”.

Y ahora, alguien que representa a DeepSeek declara que la IA es un potencial riesgo para la sociedad que el mundo tecnológico debería mitigar en forma unificada.

Cuando un multimillonario estadounidense de la IA dice algo parecido, probablemente solo sean palabras. Pero si lo dicen desde China, ya no suena tanto a discurso de negocios sino como una propuesta que va en serio.

Este artículo ha sido traducido de Gizmodo US por Romina Fabbretti. Aquí podrás encontrar la versión original.