Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Los jefes de tres de las empresas que marcan el paso de la inteligencia artificial piden ahora algo que hace poco sonaba incómodo para Silicon Valley. Sam Altman, consejero delegado de OpenAI, Demis Hassabis, consejero delegado de Google DeepMind, y Dario Amodei, consejero delegado de Anthropic, han publicado propuestas para someter los modelos más avanzados a controles externos antes de que lleguen al público.
No hablan de cualquier sistema.
Las tres propuestas se concentran en los modelos con capacidad para abrir riesgos importantes en ámbitos como la ciberseguridad o la biología. Ahí aparece una paradoja que ya define esta etapa de la IA. Las compañías que compiten por llevar más lejos estos sistemas aceptan a la vez que no basta con la autorregulación.
Amodei quiere que un regulador pueda parar un lanzamiento
Dario Amodei dibuja el esquema más directo. Propone un organismo federal con poder para impedir de inmediato el lanzamiento de un modelo considerado demasiado peligroso, en una fórmula parecida a la Administración Federal de Aviación de Estados Unidos.
La idea desplaza el debate desde la simple evaluación técnica hacia la capacidad real de veto. No se trataría solo de medir riesgos, sino de frenar la salida de un sistema cuando el umbral de peligro resulte inaceptable.
Hassabis plantea revisiones externas antes de abrir la puerta
Demis Hassabis apuesta por evaluaciones realizadas por terceros y supervisadas desde el ámbito federal. Su propuesta arrancaría de forma voluntaria y recuerda al tipo de pruebas que aplica el organismo autorregulador de la industria financiera estadounidense.
Aquí el matiz importa porque el control no nacería como una prohibición automática, sino como un filtro previo con supervisión externa. revisiones de modelos antes del mercado ya apuntaban en esa dirección durante los últimos meses.
Altman mira fuera de Estados Unidos para fijar las reglas
Sam Altman lleva la escala un paso más arriba. Plantea una institución internacional liderada por Estados Unidos, con referencia al Organismo Internacional de Energía Atómica, para fijar estándares, certificar países y compañías y usar el acceso a los modelos más avanzados como incentivo.
La comparación no es casual. Cuando una tecnología empieza a discutirse con el lenguaje de inspecciones, certificaciones y acceso condicionado, deja de parecerse a un simple producto digital y empieza a entrar en la lógica de las infraestructuras sensibles.
Los aplausos cruzados revelan que el sector ya comparte el diagnóstico
Hassabis recibió elogios públicos por su propuesta de Sam Altman, Satya Nadella, consejero delegado de Microsoft, Elon Musk y miembros de Anthropic. Ese cruce de apoyos no borra la competencia entre empresas, pero sí sugiere que el desacuerdo ya no está tanto en si debe haber controles como en quién los diseña y con qué alcance.
Mientras tanto, la administración Trump intervino durante el verano por preocupaciones ligadas a las capacidades de algunos modelos avanzados. Ese dato coloca la discusión en otro terreno, porque la presión regulatoria ya no llega solo desde los laboratorios o desde los expertos cercanos al sector, sino también desde la política.
Al final, la escena resulta menos abstracta de lo que parece. Tres consejeros delegados que compiten entre sí discuten cómo limitar sistemas que todavía quieren lanzar, y lo hacen mientras Washington ya ha empezado a intervenir por temor a lo que esos modelos pueden hacer en ciberseguridad o biología.