Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
La conversación sobre inteligencia artificial suele moverse entre promesas de productividad y asombro técnico, pero hay una cifra que obliga a bajar el tono. Una encuesta a 2.778 investigadores publicada en el Journal of Artificial Intelligence Research muestra que entre el 38 % y el 51 % asigna al menos un 10 % de probabilidad a desenlaces como la extinción humana.
La alarma ya no vive en los márgenes
No se trata de una advertencia lanzada desde fuera del sector. Evan Hubinger, investigador en Anthropic, situó en más de un 10 % la posibilidad de una catástrofe existencial asociada con la inteligencia artificial durante la próxima década.
La cifra impresiona por sí sola.
Durante años, el debate público sobre esta tecnología se ha concentrado en el empleo, los sesgos o la privacidad. Ese marco sigue ahí, pero estos datos enseñan otra capa del problema cuando parte de quienes trabajan en el campo empieza a poner números a un riesgo extremo.
Ahí aparece una paradoja incómoda, porque cuanto más avanza la conversación técnica, más se parece a una discusión sobre seguridad colectiva. En ese terreno ya han aparecido auditorías externas obligatorias como respuesta posible a sistemas que nadie quiere evaluar solo desde dentro.
Regular ya no significa solo poner límites
Las propuestas para los llamados modelos de frontera no giran únicamente alrededor de prohibiciones. También plantean acordar estándares de seguridad verificables por partes independientes, exigir transparencia sobre incidentes graves y crear mecanismos que permitan asignar responsabilidades cuando algo falla.
Visto de cerca, ese enfoque se parece menos a frenar una máquina y más a decidir quién responde cuando una herramienta potente sale mal. Algo parecido ya asomaba en el debate sobre auditores externos, donde la cuestión central no era técnica en sentido estricto, sino política y jurídica.
La discusión deja de ser abstracta cuando entra en juego la responsabilidad verificable.
Si un laboratorio desarrolla sistemas cada vez más capaces, pero el examen de seguridad queda encerrado en casa, la confianza pública se vuelve frágil. Y si además una parte relevante de la comunidad investigadora concede probabilidades medibles a escenarios catastróficos, regular deja de parecer un reflejo burocrático y pasa a ser una pregunta sobre control real.
León XIV recordó que nadie sostiene esto en solitario
León XIV abordó esa dimensión compartida del problema con una imagen sencilla.
"Ninguna mano, por sí sola, basta" y ninguna "es tan débil como para no poder ofrecer su contribución". - León XIV, en Magnifica Humanitas
La frase encaja en un debate donde conviven científicos, empresas, reguladores y ciudadanía, y donde ninguna de esas piezas basta por separado. Cuando una encuesta entre 2.778 investigadores sitúa entre el 38 % y el 51 % a quienes conceden al menos un 10 % de probabilidad a desenlaces como la extinción humana, la idea de responsabilidad compartida deja de sonar ceremonial.
Al final, la tensión no está entre optimistas y pesimistas, sino entre capacidad técnica y capacidad de supervisión. Hoy esa distancia ya puede medirse con dos números concretos, ese más de un 10 % planteado por Evan Hubinger y ese rango del 38 % al 51 % dentro de la propia comunidad investigadora.