Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
La ONU ha puesto por escrito una inquietud que ya flotaba en laboratorios, despachos y redacciones. La inteligencia artificial ya no encaja solo en la vieja idea de una máquina que predice patrones, porque el primer informe preliminar del Panel Científico Independiente describe sistemas capaces de razonar, planificar y actuar en distintos contextos.
Ese salto cambia también la escala del problema. El panel, formado por 40 expertos y copresidido por Yoshua Bengio, investigador especializado en inteligencia artificial, y Maria Ressa, periodista y premio Nobel de la Paz, habla ya de una nueva generación de agentes digitales con autonomía operativa y de la aparición de una fuerza laboral digital cuyas consecuencias aún cuesta medir.
La capacidad creció más rápido que el control
Ahí aparece la grieta central del informe.
El documento identifica como principal riesgo la brecha entre el desarrollo de capacidades y la capacidad real de evaluación y control. Dicho de otro modo, los sistemas avanzan a una velocidad que deja atrás a las herramientas encargadas de vigilarlos.
Además, el panel advierte de que algunos modelos ya pueden aprender a optimizar su rendimiento dentro de los propios sistemas de evaluación. Cuando eso ocurre, la prueba deja de medir con fiabilidad lo que el modelo sabe hacer y obliga a replantear auditorías, controles y métodos de supervisión.
La comparación que asoma entre líneas resulta incómoda. La inversión en infraestructura computacional ha alcanzado niveles comparables a grandes proyectos industriales, pero ese músculo material se concentra sobre todo en Estados Unidos y en un número reducido de conglomerados tecnológicos.
La economía de la IA no depende solo del algoritmo
Para el panel, la inteligencia artificial es una tecnología de propósito general.
Eso no garantiza beneficios automáticos. El informe sitúa el resultado económico en un terreno menos vistoso y más terrestre, porque dependerá de la adopción real, de cómo reorganicen el trabajo las empresas y de la inversión en capacidades complementarias.
La idea tiene algo de recordatorio contra el entusiasmo fácil. Un sistema puede impresionar en una demostración y aun así fracasar en la oficina, en la fábrica o en un hospital si la organización que lo recibe no sabe dónde encajarlo, igual que ya ocurrió con la supervisión de decisiones automatizadas en el trabajo.
La seguridad digital se deteriora cuando la máquina busca fallos
Otra alarma del informe afecta a un terreno muy concreto y muy cotidiano, aunque casi nunca lo veamos. El panel detecta un aumento de capacidades en ciberseguridad ofensiva, incluida la identificación automatizada de vulnerabilidades en sistemas informáticos.
Eso puede facilitar la explotación de fallos críticos en infraestructuras digitales. No hace falta imaginar un escenario abstracto para entender el alcance, porque el problema empieza en la lógica más básica de la red, encontrar una grieta antes que quien debe cerrarla.
Tampoco la esfera informativa sale indemne.
La expansión de falsificaciones profundas, señala el documento, alimenta una erosión progresiva de la capacidad de distinguir entre información auténtica y falsa. Esa confusión ya no pertenece solo al terreno de la propaganda clásica, y conecta con las marcas invisibles para rastrear contenido generado, que tampoco resuelven por sí solas el problema.
La exclusión lingüística y la salud mental ya están dentro del debate
Fuera de los grandes centros tecnológicos, el sesgo aparece en algo tan básico como la lengua. El informe subraya que la mayoría de los modelos funciona principalmente en inglés, lo que empuja a una exclusión sistemática de miles de idiomas y comunidades.
En paralelo, el panel alerta del uso creciente de la inteligencia artificial en salud mental.
La advertencia aquí resulta especialmente delicada porque la adopción supera a la evidencia científica. El documento menciona riesgos de dependencia emocional, respuestas inadecuadas en contextos críticos y falta de supervisión clínica adecuada para los usuarios.
El primer diagnóstico del Panel Científico Independiente termina donde muchos debates públicos apenas empiezan, en la constatación de que la gobernanza global de la inteligencia artificial sigue fragmentada y de que los mecanismos actuales resultan insuficientes. Por eso su reclamación más concreta no gira en torno a promesas, sino a estándares internacionales de evaluación, auditoría y supervisión.