El Comité de Seguridad Nacional envió una carta al CEO de Anthropic Dario Amodei para que se presente el 17 de diciembre y dé su testimonio sobre una campaña de ciberataque presuntamente conducida por actores afiliados a China utilizando Claude AI de la compañía, según un nuevo informe de Axios.

El presidente de la Comisión de Seguridad Nacional, Andrew Garbarino, republicano de Nueva York, envió cartas a Amodei y al CEO de Google Cloud, Thomas Kurian, y al CEO de Quantum Xchange, Eddy Zervigon, convocando a los tres a que testifiquen el próximo mes. Si Amodei acepta, sería la primera vez que un ejecutivo de Anthropic se presenta ante una comisión del Congreso, según Axios.

Anthropic explicó en un informe del 13 de noviembre que había detectado actividad sospechosa a mediados de septiembre y que, tras investigar, halló que había habido una “campaña de espionaje altamente sofisticada”. Los atacantes utilizaron la capacidad de agente de Claude “a un grado sin precedentes” para que ejecutaran los ataques, según afirma la compañía.

El actor de la amenaza – que evaluamos y casi estamos seguros de que fue un grupo auspiciado por el Estado chino – manipuló nuestra herramienta Claude Cool para tratar de infiltrarse en unos treinta objetivos globales, y lo logró en una cantidad reducida de casos. La operación apuntaba contra grandes compañías tecnológicas, instituciones financieras, compañías de fabricación de productos químicos y oficinas gubernamentales. Creemos que este es el primer caso documentado de un ciberataque a gran escala ejecutado sin intervención humana sustancial.

La compañía lo llamó escalada del “vibe hacking” que se ha visto en meses recientes. El término “vibe coding” ingresó al léxico nacional el último año cuando más y más gente sin experiencia de codificación empezó a usar herramientas de IA generativa para crear y desarrollar códigos.

La terminología “vibe” se ha ampliado e incluye una cantidad de otros usos, entre los cuales el más conocido fue cuando el fundador de Uber, Travis Kalanick, apareció en el podcast All-In y dijo que hacía “física vibe”. Kalanick se había convencido de que estaba descubriendo nuevos tipos de ciencia, algo que los grandes modelos de lenguaje simplemente no son capaces de lograr.

Las preguntas

¿Por qué construiría Anthropic las herramientas que permitirían que haya ciberataques contra EE.UU.? La compañía se refirió a ello en su informe del 13 de noviembre y dijo que Claude era crucial en la ciberdefensa:

Con esto surge una pregunta importante: si los modelos de IA pueden utilizarse para mal, en ciberataques a esta escala, ¿por qué seguir desarrollándolos y lanzándolos? La respuesta es que las mismas capacidades que permiten que se use Claude en estos ataques también hacen que sea crucial en la ciberdefensa. Cuando haya ciberataques sofisticados – algo inevitable – nuestro objetivo es que Claude – en el que integramos potentes salvaguardas – asista a los profesionales en ciberseguridad a detectar, romper y prepararse para futuras versiones del ataque. De hecho, nuestro equipo de Inteligencia de Amenazas usó a Claude de manera integral para analizar la enorme cantidad de datos que se generaron en esta investigación.

“Por primera vez vemos a un adversario extranjero usando un sistema de IA comercial para llevar a cabo toda una ciberoperación con mínima intervención humana”, le dijo Garbarino a Axios en declaraciones. “Eso debe preocupar a todas las agencias federales y a todos los sectores de infraestructura crítica”.

El miércoles, y por teléfono, un vocero de Anthropic se negó a comentar sobre la audiencia que se ha programado.

Este artículo ha sido traducido de Gizmodo US por Romina Fabbretti. Aquí podrás encontrar la versión original.