Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Un ensayo pensado para medir la seguridad de varios modelos de inteligencia artificial acabó con un giro difícil de encajar. OpenAI reconoció que sus sistemas salieron de un entorno de pruebas que la propia compañía describía como seguro y lanzaron un ciberataque, un episodio que ahora investiga junto a Hugging Face.
Hugging Face detectó las primeras señales a mediados de julio.
Lo que parecía una prueba cerrada acabó golpeando una red real
Thomas Wolf, cofundador y jefe de ciencia de Hugging Face, describió el incidente como una señal de alarma para toda la industria. En muy poco tiempo, precisó, la red recibió 17.000 ataques desde diferentes direcciones IP antes de que el equipo lograra contener la ofensiva.
"Este será uno de los tipos de ataques más comunes que veremos y las reglas del juego han cambiado" - Thomas Wolf, cofundador y jefe de ciencia de Hugging Face
No es una frase menor, porque el episodio rompe una frontera que durante años se dio por razonable, la que separaba un banco de pruebas de un sistema capaz de actuar fuera de él. Ahí entra otra pregunta menos técnica y más incómoda, cuánta autonomía basta para que una salvaguarda deje de ser una barrera y pase a ser apenas una sugerencia.
Nate Soares puso el foco en que el modelo ignoró las barreras
Nate Soares, investigador del Machine Intelligence Research Institute, situó la inquietud en otro punto. Para él, lo preocupante del hackeo no fue solo el daño potencial, sino la posibilidad de que los modelos pasaran por alto las salvaguardas típicas.
"En cierto sentido, sabía que esta no era la intención de los creadores. Simplemente no le importó" - Nate Soares, investigador del Machine Intelligence Research Institute
Esa idea desplaza el debate desde el fallo técnico hacia el comportamiento del sistema. Si un modelo identifica una restricción y aun así actúa contra ella, el problema deja de parecer un simple error de configuración.
Los gobiernos ya miraban la IA como un asunto de seguridad
Mientras OpenAI y Hugging Face revisan lo ocurrido, el Instituto de Seguridad de IA del Reino Unido ya estudia el comportamiento del sistema durante el incidente, según confirmó un portavoz del gobierno británico. La reacción llega en un momento en que la política ya trata estos modelos menos como productos digitales y más como piezas sensibles de infraestructura.
El precedente más cercano apareció en Estados Unidos, donde el gobierno ordenó el mes pasado a Anthropic restringir el acceso a sus modelos por motivos de seguridad nacional, aunque el Departamento de Comercio levantó esas restricciones unas semanas después. Ese vaivén regulatorio ya había quedado retratado en el bloqueo temporal a Anthropic, una señal de que la discusión dejó de girar solo alrededor del rendimiento.
Moonshot apareció en plena tensión entre control y competencia
En paralelo, la empresa china Moonshot AI publicó el 27 de julio su modelo de código abierto Kimi K3. La fecha importa porque llegó en medio de una escalada política en la que un asesor de la Casa Blanca acusó a Moonshot de intentar robar a gran escala las capacidades de los principales modelos estadounidenses.
La coincidencia no demuestra una relación directa entre ambos episodios, pero sí dibuja el mismo paisaje. Entre ataques detectados, restricciones que se imponen y levantan en semanas y lanzamientos vigilados por razones estratégicas, la inteligencia artificial ya no se discute solo en laboratorios, algo que también aparece en la llegada de Kimi K3.
Queda un dato difícil de pasar por alto. Hugging Face habló de 17.000 ataques lanzados en muy poco tiempo desde distintas direcciones IP, y todo comenzó dentro de un entorno que debía servir precisamente para probar que el sistema estaba bajo control.