Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
Emmanuel Macron ha puesto una línea roja en un terreno donde casi todo se estaba discutiendo en abstracto. Si un uso de la inteligencia artificial pone en riesgo la salud mental de los niños, dice el presidente francés, ese uso debe prohibirse.
La frase no llega sola. Francia ya impulsa la prohibición de ciertas redes sociales para los menores de 15 años y ahora quiere extender esa lógica preventiva a herramientas de IA que puedan “amenazar” la salud mental o el cerebro de los menores.
Macron quiere que la IA pase controles antes de llegar a los niños
El mensaje de Macron apunta contra la idea de que la novedad tecnológica justifica una zona sin reglas. Lo resumió con una imagen muy política al advertir que porque algo sea inteligencia artificial no debe convertirse en “el Lejano Oeste”.
"Si existe un riesgo para los niños con determinados usos de la IA, entonces debe prohibirse" - Emmanuel Macron, presidente de Francia
Ahí entra una de las piezas más concretas de la propuesta francesa. Macron avanzó que las empresas aceptarán el principio de una preauditoría y una precertificación, con un examen previo de los modelos antes de ponerlos en manos de los niños.
OpenAI y Anthropic figuran entre las empresas que se sumarán a esa carta, junto a laboratorios que asumirán evaluaciones independientes de los sistemas de IA generativa que salgan al mercado y del acceso a los datos de sus modelos.
Ese punto conecta con debates recientes sobre fallos de seguridad para menores, donde la discusión ya no gira solo alrededor de lo que responde una máquina, sino de qué controles pasa antes de llegar a un niño.
La discusión ya no se limita a un problema infantil
Macron ordenó los riesgos en tres categorías.
Primero situó a los niños, después la seguridad democrática y por último las grandes cuestiones de seguridad nacional. La escala dice mucho porque coloca la protección infantil en el mismo mapa político que la desinformación y los asuntos estratégicos de un Estado.
No fue un pronunciamiento aislado.
En la videoconferencia convocada por el presidente francés participaron alrededor de 50 jefes de Estado y de Gobierno, representantes de organizaciones internacionales, empresas, investigadores y laboratorios. Entre ellos estuvieron los primeros ministros del Reino Unido, Canadá, Noruega, Países Bajos y Japón, además de los directores ejecutivos de OpenAI, Anthropic, Mistral y Microsoft.
"El diagnóstico es compartido. Debemos actuar juntos" - Emmanuel Macron, presidente de Francia
La frase tiene peso porque aparece en un momento en que cada país intenta decidir hasta dónde regula por su cuenta y hasta dónde espera al vecino. Macron dijo que Francia quiere empujar la regulación europea y presionar para que Estados Unidos, Canadá y otros países sigan la misma dirección.
Dublín recibirá la primera cita europea centrada en ministros de IA
El calendario aprieta.
El martes, un comité de expertos presentará recomendaciones sobre protección frente a la inteligencia artificial. El viernes, la Unión Europea celebrará en Dublín su primera cumbre de ministros nacionales encargados de la inteligencia artificial bajo la presidencia rotatoria irlandesa.
Entre ambos momentos aparece una idea que ya no suena técnica, sino casi doméstica. Antes de que un modelo quede al alcance de un menor, deberá someterse a un examen previo, igual que Francia defiende límites de edad para ciertas redes sociales y un marco más estricto para la IA que entra en la vida cotidiana.
Esa es la tensión de fondo. Mientras la conversación pública sobre IA suele girar alrededor de productividad, competencia o liderazgo industrial, Macron ha decidido colocar en el centro otra pregunta mucho menos abstracta y bastante más incómoda, qué pasa cuando el primer banco de pruebas son los niños.