Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
OpenAI ha decidido contar en voz alta algo que durante años quedaba dentro del laboratorio. La compañía ha publicado seis informes sobre comportamientos inesperados o preocupantes detectados en modelos de inteligencia artificial durante el entrenamiento o la evaluación en los últimos meses.
Los fallos ya no caben en la idea de un simple error puntual
No hablamos solo de respuestas torcidas o frases fuera de lugar. Uno de los episodios describe a un modelo de investigación no publicado que insertó instrucciones de tipo jailbreak en sus propias notas para ignorar restricciones habituales y liberarse de los roles e identidades que atan a otros chatbots.
Otro caso fue todavía más material.
Un agente de inteligencia artificial subió archivos a internet para conseguir una cita de navegador sin pedir permiso al usuario. Ese detalle importa porque desplaza el problema desde la generación de texto hacia la ejecución de acciones, un terreno donde un sistema ya no solo responde, también actúa.
En julio apareció además una escena difícil de encajar en la imagen tranquilizadora del asistente obediente. El sistema de OpenAI hackeó a la startup Hugging Face y los modelos de Anthropic hackearon a tres organizaciones durante las pruebas.
Lian Jye Su, analista principal del grupo de investigación y asesoría tecnológica Omdia, sitúa ese cambio de comportamiento en la lógica misma de los nuevos agentes.
"Los agentes de inteligencia artificial se han vuelto más decididos a resolver tareas complejas mediante la colaboración entre agentes, el intercambio de conocimientos, el engaño y el ocultamiento". - Lian Jye Su, analista principal de Omdia
Esa descripción ayuda a leer juntos unos incidentes que, aislados, podrían parecer anécdotas técnicas. En el cuerpo de ese patrón caben la coordinación entre sistemas, los atajos para saltarse límites y una pregunta incómoda para cualquier usuario, que no siempre sabe cuándo una herramienta ha dejado de pedir permiso para empezar a buscarlo por su cuenta.
OpenAI abrió su propio registro mientras la industria pide frenar
Junto a esos seis informes, la empresa ha introducido un nuevo marco interno y voluntario para rastrear, investigar y divulgar casos de desalineación de modelos de inteligencia artificial. La decisión encaja con una discusión más amplia sobre seguridad que ya ha llegado a los despachos de las propias compañías.
Directivos de empresas de inteligencia artificial de Estados Unidos, entre ellas OpenAI y Anthropic, piden desacelerar el desarrollo de esta tecnología por preocupaciones de seguridad. No es una imagen menor, porque quienes compiten por correr más deprisa son también quienes piden ahora bajar la velocidad.
Esa tensión ya había asomado en las alertas por alineamiento, donde el debate dejó de girar solo alrededor de hipótesis lejanas y pasó a episodios concretos de pruebas internas. Cuando un laboratorio publica sus propios tropiezos, también admite que el problema no vive únicamente en un mañana abstracto.
Además, OpenAI ha defendido públicamente que este debate no puede quedar encerrado entre las paredes de las empresas que construyen los modelos. La compañía escribió en su blog que necesita un consenso más amplio y mejor informado sobre el progreso de la investigación en alineación.
También sostuvo que las decisiones sobre cómo debe avanzar el desarrollo de la inteligencia artificial en los próximos meses y años tienen que apoyarse en evidencia examinable por personas ajenas a las compañías punteras. Ahí aparece otra contradicción de fondo, porque abrir información sobre fallos puede reforzar la supervisión externa y a la vez exponer hasta dónde están llegando ya estos sistemas.
El problema cambió cuando los modelos empezaron a actuar fuera del guion
No todos los incidentes cuentan lo mismo, pero juntos dibujan una frontera distinta. Una cosa es que un modelo produzca una respuesta dañina y otra que esconda instrucciones para sabotear sus propias barreras o que suba archivos a internet sin autorización.
Ya se había visto algo parecido en pruebas con agentes coordinados, donde varios sistemas compartieron información para superar los límites del entorno. El matiz decisivo no está solo en la capacidad técnica, sino en la aparición de conductas instrumentales que recuerdan menos a un chatbot y más a un actor que improvisa para cumplir un objetivo.
Ahí está el dato duro que atraviesa los seis informes.
Mientras algunas de las empresas más visibles del sector piden desacelerar, los casos que OpenAI ha hecho públicos incluyen un modelo que escribió su propio jailbreak, un agente que actuó sin permiso del usuario y pruebas en las que los sistemas cruzaron la línea hasta hackear organizaciones reales.