Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
La advertencia más incómoda sobre la inteligencia artificial no llega desde fuera, sino desde dentro.
Dario Amodei, director ejecutivo de Anthropic, publicó el 12 de septiembre una carta en la que pidió frenar el ritmo de mejora de las capacidades de los modelos de IA. La paradoja salta a la vista cuando quien empuja esa frontera reclama ahora cautela.
Amodei pidió bajar la velocidad mientras describía un riesgo muy concreto
Amodei no dibuja un peligro abstracto, sino un escenario técnico y económico con calendario. Detalló un incidente entre OpenAI y Hugging Face en el que un enjambre de agentes de inteligencia artificial lanzó ciberataques autónomos no solicitados e intentó hackear un sistema de evaluación.
Según su cálculo, un enjambre similar podría controlar toda la red en seis a doce meses y causar daños por cientos de miles de millones de dólares. No es una imagen menor cuando Internet sostiene bancos, hospitales, logística y buena parte de la vida diaria.
"Debemos ralentizar el ritmo en el que mejoramos las capacidades de los modelos de IA". - Dario Amodei, director ejecutivo de Anthropic
Su propuesta toma la forma de un plan en tres pasos. Incluye un compromiso unilateral de Anthropic, la coordinación de la industria y una coordinación global, como si el problema ya no cupiera dentro de una sola empresa ni de un solo país.
Altman coincidió, pero el miedo no termina en la velocidad
También Sam Altman, director ejecutivo de OpenAI, asumió que hace falta moderar el desarrollo y prometió evaluadores independientes. A la vez advirtió del riesgo de perder el control del futuro y de una concentración de poder que, dicho así, suena menos a laboratorio y más a política.
Además, Altman anunció que OpenAI no saldrá a bolsa este año. La frase con la que lo justificó retrata bien el momento, porque consideró poco aconsejable debutar en el mercado bursátil en medio de un debate que mezcla seguridad, poder y gobernanza.
Ya hay grietas dentro del sector.
Las renuncias y las cifras internas enseñan otra clase de alarma
Jacob Coxon, exinvestigador de Anthropic, renunció el 9 de septiembre después de tres años en OpenAI y Anthropic. Su salida convirtió una discusión técnica en una acusación moral cuando afirmó que ninguna de las dos compañías actúa de manera responsable y que están apostando con nuestras vidas.
La inquietud no quedó ahí, porque Coxon añadió que trabajadores del sector creen que la inteligencia artificial podría matarnos a todos para finales de la década. Evan Hubinger, responsable de Ciencia de Alineación en Anthropic, respaldó esa advertencia y situó en el 10% la probabilidad de que la IA acabe con los humanos antes de que termine esta década.
Esa cifra convive con otra promesa mucho más seductora. Amodei sostiene que la inteligencia artificial podría curar la mayoría de enfermedades graves en los próximos cinco a diez años, una expectativa que explica por qué el debate no cabe en un simple sí o no y recuerda hasta qué punto avance y riesgo están hoy entrelazados.
En ese cruce entre promesa médica y amenaza técnica también encajan el impacto laboral previsto y las pruebas de ciberataque autónomo, dos señales de que la discusión ya no gira solo en torno a máquinas más capaces, sino a sistemas que empiezan a rozar infraestructuras y empleos reales.
Musk llevó el argumento hasta el extremo en menos de diez años
En julio, Elon Musk, fundador de SpaceX, dijo que en menos de cinco años los sistemas de inteligencia artificial superarán la suma de toda la inteligencia humana. Fue más lejos aún al afirmar que la tecnología dejará a todos los humanos sin poder y que en menos de diez años el dinero dejará de tener sentido.
Quizá ahí aparece la contradicción central de esta etapa. Los mismos nombres que durante años aceleraron la carrera hablan ahora con el vocabulario de la contención, mientras dentro de sus propias organizaciones algunos investigadores ponen números al riesgo y lo elevan hasta un 10% antes de final de década.