La inteligencia artificial ha entrado en las comisarías británicas por dos puertas a la vez, y no empujan en la misma dirección. Mientras la policía de Derbyshire investiga a uno de sus agentes por presuntamente crear material probatorio con herramientas de IA en varios casos, el Reino Unido acaba de inaugurar un centro nacional de inteligencia artificial aplicada a la policía bajo el nombre de PoliceAI.
Derbyshire abrió una investigación penal por unas pruebas bajo sospecha
La semana pasada, la policía inglesa inició una investigación penal contra un agente de Derbyshire acusado de utilizar sistemas de inteligencia artificial para crear material probatorio en varios casos.
El agente ha sido apartado de sus funciones mientras avanza la investigación. La acusación que figura sobre la mesa es obstrucción a la justicia y, por ahora, no se ha producido ninguna detención.
Un portavoz de la policía de Derbyshire situó así el alcance del caso.
"Se ha iniciado una investigación penal por una denuncia de obstrucción a la justicia tras el presunto uso de sistemas de IA por parte de un agente para crear material probatorio en varios casos" - portavoz de la policía de Derbyshire
No es un detalle menor. Cuando la duda afecta al origen mismo de una prueba, el problema ya no se limita a un mal uso informático y toca una de las piezas más delicadas del sistema penal.
PoliceAI nació cuando el delito ya cambia al ritmo del software
Al mismo tiempo, las autoridades han puesto en marcha PoliceAI, un nuevo centro nacional dedicado a la inteligencia artificial aplicada a la actividad policial. El contraste resulta difícil de ignorar, porque el anuncio llega justo cuando una fuerza territorial examina si uno de sus agentes cruzó una línea muy concreta.
Durante la presentación, Alex Murray, director interino de PoliceAI, describió el marco general en el que nace esta iniciativa.
"el crimen y la tecnología están evolucionando rápidamente" - Alex Murray, director interino de PoliceAI
Murray defendió además que la policía necesita adoptar la inteligencia artificial de forma responsable para atrapar a los delincuentes y proteger a la población. Esa idea explica el impulso institucional, pero también obliga a mirar con más cuidado qué tareas pueden delegarse y cuáles no.
PoliceAI ya frenó el uso de IA para redactar declaraciones judiciales
Ahí aparece el matiz más revelador.
PoliceAI ha aconsejado a los agentes que dejen de usar inteligencia artificial generativa para preparar declaraciones judiciales por la tendencia de estos sistemas a alucinar con las respuestas. En otras palabras, el organismo creado para impulsar esta tecnología dentro de la policía ya ha marcado una zona de riesgo en uno de los puntos más sensibles del procedimiento.
Alex Murray explicó que ese aviso ya se trasladó a algunas fuerzas policiales.
"Les hemos dicho a algunas fuerzas policiales: ‘No podéis hacer eso, porque todavía no hemos completado todos los controles y verificaciones’" - Alex Murray, director interino de PoliceAI
Esa cautela encaja con un debate más amplio sobre la fiabilidad de la prueba digital, como ya ocurrió con las pruebas digitales manipuladas cuando la generación automática entra en audios, vídeos o documentos. Si además un agente usa esas herramientas para construir material probatorio, la frontera entre asistencia técnica y alteración del proceso se vuelve mucho menos nítida.
Murray lo resumió con una fórmula más sobria que triunfalista. Dijo que hay que tomárselo con más calma, una frase que suena casi a freno de emergencia en un momento en que la presión por incorporar IA a cualquier tarea pública crece a gran velocidad.
Entre la apertura de PoliceAI y la investigación en Derbyshire queda una tensión difícil de esquivar, y muy concreta. La misma semana en que el Reino Unido presentó un centro para llevar la IA a la policía, una fuerza policial examinaba si esa tecnología pudo usarse para fabricar pruebas.