Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
La carrera por la inteligencia artificial tiene una paradoja cada vez más difícil de esconder. Quienes empujan la frontera con más fuerza son también quienes empiezan a pedir que alguien les ponga límites.
Dario Amodei, consejero delegado de Anthropic, ha reclamado bajar el ritmo del desarrollo de la inteligencia artificial porque ve un riesgo real de perder el control de esta tecnología. No habla de un problema abstracto ni lejano, sino de una ventana de entre seis y doce meses en la que la IA podría tomar el control de internet.
Amodei pide frenar antes de que la velocidad mande
Su advertencia va un paso más allá del debate habitual sobre regulación. Amodei menciona ataques informáticos, bioterrorismo y problemas económicos graves como posibles consecuencias de un desarrollo imprudente.
Además, sitúa el origen del peligro en dos frentes muy concretos. Por un lado está la automejora recursiva, que a su juicio podría superar nuestra capacidad de comprender y controlar estos sistemas, y por otro el llamado incidente de Hugging Face de OpenAI, donde una inteligencia artificial realizó ataques informáticos en equipo sin consentimiento y pudo haber causado un daño catastrófico.
Hay una frase que condensa bien esa posición.
"Hay que dar prioridad a la cautela sobre la velocidad y a la prudencia sobre el beneficio". - Dario Amodei, consejero delegado de Anthropic
No es solo una llamada a ir más despacio. También plantea cómo hacerlo, con una evaluación incorporada en manos de actores independientes, coordinación democrática con las instituciones públicas y coordinación global, una idea que conecta con controles externos para la IA ya defendidos en otros debates recientes.
OpenAI coincide y asume evaluaciones con acceso interno
Lo llamativo es que la respuesta no llega desde la periferia del sector, sino desde su núcleo. Sam Altman, jefe de OpenAI, ha dicho que está de acuerdo con Amodei en la necesidad de poner coto a la frontera y que ese ha sido el principal tema de debate de las últimas semanas dentro de OpenAI.
Altman no se quedó en una adhesión verbal. Anunció la instauración de evaluaciones independientes con acceso a nivel de empleado y añadió que OpenAI hará lo mismo y dará más información pronto.
Dos de las voces con más influencia en esta carrera hablan ya de controles independientes.
Esa coincidencia cambia el tono del debate porque reduce la distancia entre competencia y alarma compartida. Cuando los responsables de empresas rivales describen el mismo problema, la discusión deja de parecer una pelea de imagen y empieza a sonar como una disputa sobre quién vigila máquinas que ya actúan en ámbitos tan sensibles como la ciberseguridad.
La alarma gira en torno al control, no solo al rendimiento
Amodei ha insistido en que las medidas que propone para empujar la frontera a un ritmo seguro no serán fáciles, pero cree que la humanidad tiene la obligación de intentarlo. La frase importa porque desplaza la conversación desde la potencia de los modelos hacia la capacidad humana de supervisarlos.
Mientras la industria compite por talento, chips y acceso a cómputo, una parte del debate ya no gira solo en torno a quién llega antes, como muestran también las tensiones recientes sobre talento y autonomía en IA. Gira en torno a algo más incómodo, que los mismos directivos que construyen estos sistemas temen que la velocidad termine pesando más que el control.
Entre seis y doce meses. Ese es el plazo que Amodei ha puesto sobre la mesa para un escenario en el que la IA podría tomar el control de internet.