Añadir Mangas Verdes como fuente preferida de Google de forma gratuita.
Mantente informado con las últimas noticias de actualidad.
La inteligencia artificial no solo plantea qué puede hacer una máquina. También obliga a preguntar por qué ha tomado una decisión y de dónde sale una respuesta.
Ahí entra la llamada IA explicable, una vía que busca sacar a los sistemas de esa condición de caja negra que tanto incomoda a empresas y administraciones. Luis Flores, consejero delegado de OpenSistemas, la describe como una inteligencia cuya lógica puede entenderse de forma orgánica, no solo padecerse como un resultado cerrado.
"La IA en general se asume como el comportamiento de una máquina, como una inteligencia que imita al humano. Y la IA explicable pretende que tú puedas entender orgánicamente por qué está haciendo eso, cuál es el razonamiento, cuál es la lógica. Es decir, deja de ser una caja negra y empieza a ser una caja descriptiva". - Luis Flores, consejero delegado de OpenSistemas
OpenSistemas llevó la explicación al terreno de las pymes
OpenSistemas ha desarrollado SofIA para que las pequeñas y medianas empresas dispongan de capacidad de inteligencia artificial explicable mediante reglas y control. La idea no apunta solo a automatizar tareas, sino a hacerlo dentro de un marco que la propia organización pueda gobernar.
Flores sitúa dos frentes muy concretos detrás del interés empresarial actual. Por un lado aparecen la seguridad y el tratamiento de los datos, una preocupación que también asoma en la gobernanza de la IA en pymes. Por otro, la conexión con los sistemas internos de cada compañía, un problema menos visible fuera de las oficinas pero decisivo cuando toca pasar del experimento al trabajo diario.
"En paralelo al gran interés por el uso de la IA a todos los niveles, profesionales y personales, aparecen dos problemas recurrentes: la seguridad, dónde van los datos, cómo se tratan; y la conexión de la IA con los sistemas de la empresa. SofIA permite su empleo por parte de una organización utilizando reglas y control. Es una plataforma que resuelve todo, una especie de asistente corporativo, de uso exclusivo de la compañía". - Luis Flores, consejero delegado de OpenSistemas
No es una discusión menor.
Muchas compañías quieren usar IA, pero no siempre saben cómo empezar. Flores habla de miedo, reticencia y suspicacia, una mezcla bastante reconocible en cualquier proceso de cambio cuando la herramienta promete velocidad pero obliga a revisar rutinas, permisos y responsabilidades.
SokAI busca que la IA entre donde ya se trabaja
Junto a SofIA, OpenSistemas propone SokAI para integrar la inteligencia artificial en cualquier entorno, página web, herramienta o programa. El planteamiento invierte el gesto habitual, porque en vez de desplazarse a una aplicación específica de IA, la IA se incorpora al lugar donde ya transcurre el trabajo.
"Distinto paradigma en el empleo de la IA, todavía en estadio embrionario, es la capacidad de integrar la inteligencia artificial en cualquier entorno, algo así como una inyección en cualquier página web, herramienta o programa donde se esté trabajando. En lugar de ir tú a la IA, la incorporamos a los sitios donde estamos operando con ella". - Luis Flores, consejero delegado de OpenSistemas
Esa diferencia cambia la experiencia cotidiana del usuario. La consulta deja de hacerse en una ventana aparte y pasa a convivir con el documento, la web o la herramienta que ya está abierta, una idea que recuerda a la distancia entre pilotos y uso real cuando la implantación tropieza con procesos básicos.
La trazabilidad ya salió del piloto en España
Jorge Sanz, director del área de Datos e Inteligencia Artificial de Integra Tecnología, sitúa otra pieza clave en las técnicas de generación aumentada por recuperación. Su ventaja, explica, consiste en saber de dónde sale la respuesta en la que se ha basado el sistema.
"Gracias a esta técnica sabemos de dónde sale la respuesta en la que se ha basado el sistema". - Jorge Sanz, director del área de Datos e Inteligencia Artificial de Integra Tecnología
Sanz sostiene que esa trazabilidad ayuda a acabar con las alucinaciones porque permite localizar el documento, el párrafo e incluso la hoja que respaldan la contestación. Cuando el modelo enseña el origen de lo que dice, añade, la confianza deja de depender solo de una respuesta convincente y pasa a apoyarse en una verificación concreta.
En España, además, la fase parece haber cambiado de escala. Sanz afirma que la implantación no está muy extendida, pero ya ha pasado de pilotos a proyectos, y subraya que en septiembre de 2025 todavía se realizaban pruebas de concepto.
La administración y la banca aparecen como terreno fértil
Flores cree que la inteligencia artificial explicable encaja mejor allí donde hay mucho procesamiento de información automatizable. Cita la administración pública y la banca, y añade también salud, educación y comercio minorista cuando existe interacción con el cliente.
Sanz pone un ejemplo muy concreto en el sector público. Habla de la baremación de méritos en ofertas públicas de empleo, donde los sistemas leen la documentación de los candidatos y la comparan con los requisitos del puesto en formación, experiencia y conocimientos.
En septiembre de 2025 aún se hacían pruebas de concepto y esa etapa ya se ha superado.
La paradoja está ahí desde el principio. Cuanto más interés despierta la IA, más peso ganan dos preguntas muy terrenales sobre datos y control, y precisamente por eso la explicación, la trazabilidad y las reglas aparecen hoy en sectores como banca, salud o empleo público.