Los algoritmos han llegado en tromba a las empresas, un alud que ha avanzado sin demasiado control y sin tiempo para entender cómo y por qué la IA toma sus decisiones. Pero ese ‘avance en la oscuridad’ está llegando a su fin y se abre paso la inteligencia artificial explicable (XAI o Explainable AI en inglés), sistemas para tomar decisiones que puedan ser comprendidas y comprobadas por los humanos. «La IA en general se asume como el comportamiento de una máquina, como una inteligencia que imita al humano. Y la IA explicable pretende que tú puedas entender orgánicamente por qué está haciendo eso, cuál es el razonamiento, cuál es la lógica. Es decir, deja de ser una caja negra y empieza a ser una caja descriptiva», aclara Luis Flores, CEO de OpenSistemas, una compañía que trabaja en aplicación de inteligencia artificial y datos desde hace más de 20 años para la Agencia Tributaria, así como para bancos y empresas de telecomunicaciones. Gracias a su solución SofIA, las pymes también pueden disponer de esa capacidad. «En paralelo al gran interés por el uso de la IA a todos los niveles, profesionales y personales –afirma–, aparecen dos problemas recurrentes: la seguridad, dónde van los datos, cómo se tratan; y la conexión de la IA con los sistemas de la empresa. SofIA permite su empleo por parte de una organización utilizando reglas y control. Es una plataforma que resuelve todo, una especie de ChatGPT corporativo, de uso exclusivo de la compañía».La otra solución que propone OpenSistemas es SokAI, detalla Flores: «Distinto paradigma en el empleo de la IA, todavía en estadio embrionario, es la capacidad de integrar la inteligencia artificial en cualquier entorno, algo así como una inyección en cualquier web, herramienta o programa donde se esté trabajando. En lugar de ir tú a la IA, la incorporamos a los sitios donde estamos operando con ella».Noticia relacionada general No No Las webs se reinventan frente a la avalancha algorítmica Iciar MinerEl proceso de asesoría de OpenSistemas comienza con la identificación de los procesos clave, «muy centrados ahora mismo en el ahorro de costes y en la eficiencia, y en cómo la inteligencia artificial puede contribuir a ello», señala su CEO.La dificultad de implantación de la IA explicable y su coste depende del tamaño de la compañía. ¿Para qué sectores está más indicada? Según Flores, «se aplica mejor donde hay mucho procesamiento de información automatizable, como la administración pública o en la banca». «Pero también en el ámbito de salud, en educación, en retail, donde haya interacción con el cliente», añade. Sobre la implantación de la inteligencia artificial en general y de la explicable en particular, Flores sostiene que «aunque existe mucho interés por este tipo de tecnologías, hay un poco de miedo también de cómo empezar y por dónde». «Se percibe reticencia, suspicacia… Y esto es un cambio estructural que va a llegar a todos los sectores. El que antes lo aplique y lo haga con éxito, saldrá victorioso», apunta este experto.Fin a las alucinacionesUn modelo LLM (Large language model) tiene entre sus funciones la capacidad de entender el lenguaje, de forma que si le envías un texto es capaz de resumirlo, ampliarlo, entender conceptos y entidades e intenciones que hay. Y también dispone de conocimiento, donde no se sabe de dónde sale la respuesta. Para cubrir esa laguna, se usan técnicas de RAG (Retrieval augmented generation). «Gracias a esta técnica sabemos de dónde sale la respuesta en la que se ha basado el sistema», comenta Jorge Sanz, director del área de Data&IA de Integra Tecnología. La implantación en España de la IA explicable se encuentra en sus primeras fases, dice: «Aunque no lo calificaría de incipiente, no está muy extendida. Pero ya hemos pasado de pilotos a proyectos. En septiembre de 2025 se realizaban pruebas de concepto, etapa que ya se ha superado».Uno de los beneficios más tangibles del empleo de la IA explicable es que acaba con alucinaciones, «el hecho de que las respuestas que te va a dar son certeras y, lo más importante, trazables, y tú eres capaz de entender la contestación, en qué documento, en qué párrafo, en qué hoja se ha basado», apostilla.Confianza, transparencia y cumplimiento normativo también se encuentran entre las ventajas de su utilización en empresas y organizaciones, relata el directivo de Integra Tecnología: «Como dispones de la trazabilidad, se genera confianza , porque no te basas únicamente en la respuesta que te ha dado, pues el propio modelo te determina el origen de la información».El sector público es muy apropiado para el desarrollo de este modelo de inteligencia artificial, a juicio de Sanz: «Se está empleando, por ejemplo, en la baremación de méritos. En una oferta pública de empleo, donde hay distintos candidatos que presentan documentación con formación, experiencia, conocimientos… Los sistemas leen toda esa documentación y la enfrentan a la petición del puesto».No se atreve Jorge Sanz a pronosticar una previsión de la evolución de la inteligencia artificial explicable: «Es algo complejo por cómo está avanzando este mundo. Los modelos son cada vez más estrictos y más pequeños, y no utilizan tanta información». Sobre la superposición de modelos, no se muestra partidario, porque «aumenta el coste».JustificaciónJavier Pérez, cofundador de Lienzzo, compañía especializada en implantar soluciones de IA a medida para empresas, considera que la IA explicable es «una herramienta útil y segura». «No basta con que un sistema responda bien: debe justificar qué fuentes ha utilizado, aportar citas exactas, mostrar el contexto de la respuesta y valorar el nivel de confianza para decidir si puede entregarse o debe pasar por supervisión humana», asegura Pérez.Lienzzo aplica soluciones RAG, asistentes internos y agentes de IA conectados a documentación, bases de datos, ERPs (planificación de recursos empresariales) y CRMs (gestión de relaciones con el cliente). El objetivo es que la IA trabaje sobre conocimiento real de la organización, respetando permisos, trazabilidad y supervisión humana cuando el proceso lo requiere.Una de las lecciones aprendidas, indica, «es que un proyecto de IA empresarial no empieza en el modelo, sino en el dato; muchas empresas tienen información dispersa en PDFs, carpetas, correos, bases de información con registros duplicados o desfasados y manuales a los que nadie accede».«El trabajo importante está en ordenar ese conocimiento, estructurar los datos, decidir qué fuentes son válidas, cómo se actualizan, qué usuarios acceden a cada información y cómo se audita cada respuesta. Es la parte menos vistosa y la que muchas empresas se saltan por ir directamente a elegir qué modelo conectan a sus datos, sin control ni seguridad. Pasar esto por alto diferencia una implantación real de una demo que no llega a producción», subraya Pérez.Confianza en acciónChatpol es un ejemplo de las soluciones desarrolladas por Lienzzo. Se trata de un sistema RAG que utilizan ya en más de 20 ayuntamientos para Policía Local, con más de 2.000 usuarios, que han alcanzado ya las 50.000 consultas resueltas. Permite consultar normativa y documentación especializada cumpliendo requisitos clave: servidores en la Unión Europea, datos no utilizados para entrenar modelos, ENS (Esquema Nacional de Seguridad) de categoría alta y trazabilidad auditable. El cofundador de la compañía estima que «en un entorno así, la IA no puede limitarse a ‘dar una respuesta’, tiene que permitir comprobar de dónde sale, si la fuente está vigente y bajo qué condiciones se ha generado».Cree Pérez que los métodos de XAI no deben quedarse en una explicación teórica del modelo: «En proyectos reales se traducen en arquitectura; recuperación documental, control de accesos, logs, citas verificables, evaluación de respuestas y mecanismos para corregir el conocimiento cuando cambia».Después de implantar soluciones de inteligencia artificial en entornos reales con miles de usuarios, en Lienzzo se asume que el desafío no está en generar respuestas, sino en controlar calidad del dato, seguridad, permisos, trazabilidad y mantenimiento del conocimiento. Los algoritmos han llegado en tromba a las empresas, un alud que ha avanzado sin demasiado control y sin tiempo para entender cómo y por qué la IA toma sus decisiones. Pero ese ‘avance en la oscuridad’ está llegando a su fin y se abre paso la inteligencia artificial explicable (XAI o Explainable AI en inglés), sistemas para tomar decisiones que puedan ser comprendidas y comprobadas por los humanos. «La IA en general se asume como el comportamiento de una máquina, como una inteligencia que imita al humano. Y la IA explicable pretende que tú puedas entender orgánicamente por qué está haciendo eso, cuál es el razonamiento, cuál es la lógica. Es decir, deja de ser una caja negra y empieza a ser una caja descriptiva», aclara Luis Flores, CEO de OpenSistemas, una compañía que trabaja en aplicación de inteligencia artificial y datos desde hace más de 20 años para la Agencia Tributaria, así como para bancos y empresas de telecomunicaciones. Gracias a su solución SofIA, las pymes también pueden disponer de esa capacidad. «En paralelo al gran interés por el uso de la IA a todos los niveles, profesionales y personales –afirma–, aparecen dos problemas recurrentes: la seguridad, dónde van los datos, cómo se tratan; y la conexión de la IA con los sistemas de la empresa. SofIA permite su empleo por parte de una organización utilizando reglas y control. Es una plataforma que resuelve todo, una especie de ChatGPT corporativo, de uso exclusivo de la compañía».La otra solución que propone OpenSistemas es SokAI, detalla Flores: «Distinto paradigma en el empleo de la IA, todavía en estadio embrionario, es la capacidad de integrar la inteligencia artificial en cualquier entorno, algo así como una inyección en cualquier web, herramienta o programa donde se esté trabajando. En lugar de ir tú a la IA, la incorporamos a los sitios donde estamos operando con ella».Noticia relacionada general No No Las webs se reinventan frente a la avalancha algorítmica Iciar MinerEl proceso de asesoría de OpenSistemas comienza con la identificación de los procesos clave, «muy centrados ahora mismo en el ahorro de costes y en la eficiencia, y en cómo la inteligencia artificial puede contribuir a ello», señala su CEO.La dificultad de implantación de la IA explicable y su coste depende del tamaño de la compañía. ¿Para qué sectores está más indicada? Según Flores, «se aplica mejor donde hay mucho procesamiento de información automatizable, como la administración pública o en la banca». «Pero también en el ámbito de salud, en educación, en retail, donde haya interacción con el cliente», añade. Sobre la implantación de la inteligencia artificial en general y de la explicable en particular, Flores sostiene que «aunque existe mucho interés por este tipo de tecnologías, hay un poco de miedo también de cómo empezar y por dónde». «Se percibe reticencia, suspicacia… Y esto es un cambio estructural que va a llegar a todos los sectores. El que antes lo aplique y lo haga con éxito, saldrá victorioso», apunta este experto.Fin a las alucinacionesUn modelo LLM (Large language model) tiene entre sus funciones la capacidad de entender el lenguaje, de forma que si le envías un texto es capaz de resumirlo, ampliarlo, entender conceptos y entidades e intenciones que hay. Y también dispone de conocimiento, donde no se sabe de dónde sale la respuesta. Para cubrir esa laguna, se usan técnicas de RAG (Retrieval augmented generation). «Gracias a esta técnica sabemos de dónde sale la respuesta en la que se ha basado el sistema», comenta Jorge Sanz, director del área de Data&IA de Integra Tecnología. La implantación en España de la IA explicable se encuentra en sus primeras fases, dice: «Aunque no lo calificaría de incipiente, no está muy extendida. Pero ya hemos pasado de pilotos a proyectos. En septiembre de 2025 se realizaban pruebas de concepto, etapa que ya se ha superado».Uno de los beneficios más tangibles del empleo de la IA explicable es que acaba con alucinaciones, «el hecho de que las respuestas que te va a dar son certeras y, lo más importante, trazables, y tú eres capaz de entender la contestación, en qué documento, en qué párrafo, en qué hoja se ha basado», apostilla.Confianza, transparencia y cumplimiento normativo también se encuentran entre las ventajas de su utilización en empresas y organizaciones, relata el directivo de Integra Tecnología: «Como dispones de la trazabilidad, se genera confianza , porque no te basas únicamente en la respuesta que te ha dado, pues el propio modelo te determina el origen de la información».El sector público es muy apropiado para el desarrollo de este modelo de inteligencia artificial, a juicio de Sanz: «Se está empleando, por ejemplo, en la baremación de méritos. En una oferta pública de empleo, donde hay distintos candidatos que presentan documentación con formación, experiencia, conocimientos… Los sistemas leen toda esa documentación y la enfrentan a la petición del puesto».No se atreve Jorge Sanz a pronosticar una previsión de la evolución de la inteligencia artificial explicable: «Es algo complejo por cómo está avanzando este mundo. Los modelos son cada vez más estrictos y más pequeños, y no utilizan tanta información». Sobre la superposición de modelos, no se muestra partidario, porque «aumenta el coste».JustificaciónJavier Pérez, cofundador de Lienzzo, compañía especializada en implantar soluciones de IA a medida para empresas, considera que la IA explicable es «una herramienta útil y segura». «No basta con que un sistema responda bien: debe justificar qué fuentes ha utilizado, aportar citas exactas, mostrar el contexto de la respuesta y valorar el nivel de confianza para decidir si puede entregarse o debe pasar por supervisión humana», asegura Pérez.Lienzzo aplica soluciones RAG, asistentes internos y agentes de IA conectados a documentación, bases de datos, ERPs (planificación de recursos empresariales) y CRMs (gestión de relaciones con el cliente). El objetivo es que la IA trabaje sobre conocimiento real de la organización, respetando permisos, trazabilidad y supervisión humana cuando el proceso lo requiere.Una de las lecciones aprendidas, indica, «es que un proyecto de IA empresarial no empieza en el modelo, sino en el dato; muchas empresas tienen información dispersa en PDFs, carpetas, correos, bases de información con registros duplicados o desfasados y manuales a los que nadie accede».«El trabajo importante está en ordenar ese conocimiento, estructurar los datos, decidir qué fuentes son válidas, cómo se actualizan, qué usuarios acceden a cada información y cómo se audita cada respuesta. Es la parte menos vistosa y la que muchas empresas se saltan por ir directamente a elegir qué modelo conectan a sus datos, sin control ni seguridad. Pasar esto por alto diferencia una implantación real de una demo que no llega a producción», subraya Pérez.Confianza en acciónChatpol es un ejemplo de las soluciones desarrolladas por Lienzzo. Se trata de un sistema RAG que utilizan ya en más de 20 ayuntamientos para Policía Local, con más de 2.000 usuarios, que han alcanzado ya las 50.000 consultas resueltas. Permite consultar normativa y documentación especializada cumpliendo requisitos clave: servidores en la Unión Europea, datos no utilizados para entrenar modelos, ENS (Esquema Nacional de Seguridad) de categoría alta y trazabilidad auditable. El cofundador de la compañía estima que «en un entorno así, la IA no puede limitarse a ‘dar una respuesta’, tiene que permitir comprobar de dónde sale, si la fuente está vigente y bajo qué condiciones se ha generado».Cree Pérez que los métodos de XAI no deben quedarse en una explicación teórica del modelo: «En proyectos reales se traducen en arquitectura; recuperación documental, control de accesos, logs, citas verificables, evaluación de respuestas y mecanismos para corregir el conocimiento cuando cambia».Después de implantar soluciones de inteligencia artificial en entornos reales con miles de usuarios, en Lienzzo se asume que el desafío no está en generar respuestas, sino en controlar calidad del dato, seguridad, permisos, trazabilidad y mantenimiento del conocimiento.
Los algoritmos han llegado en tromba a las empresas, un alud que ha avanzado sin demasiado control y sin tiempo para entender cómo y por qué la IA toma sus decisiones. Pero ese ‘avance en la oscuridad’ está llegando a su fin y se abre … paso la inteligencia artificial explicable (XAI o Explainable AI en inglés), sistemas para tomar decisiones que puedan ser comprendidas y comprobadas por los humanos.
«La IA en general se asume como el comportamiento de una máquina, como una inteligencia que imita al humano. Y la IA explicable pretende que tú puedas entender orgánicamente por qué está haciendo eso, cuál es el razonamiento, cuál es la lógica. Es decir, deja de ser una caja negra y empieza a ser una caja descriptiva», aclara Luis Flores, CEO de OpenSistemas, una compañía que trabaja en aplicación de inteligencia artificial y datos desde hace más de 20 años para la Agencia Tributaria, así como para bancos y empresas de telecomunicaciones. Gracias a su solución SofIA, las pymes también pueden disponer de esa capacidad. «En paralelo al gran interés por el uso de la IA a todos los niveles, profesionales y personales –afirma–, aparecen dos problemas recurrentes: la seguridad, dónde van los datos, cómo se tratan; y la conexión de la IA con los sistemas de la empresa. SofIA permite su empleo por parte de una organización utilizando reglas y control. Es una plataforma que resuelve todo, una especie de ChatGPT corporativo, de uso exclusivo de la compañía».
La otra solución que propone OpenSistemas es SokAI, detalla Flores: «Distinto paradigma en el empleo de la IA, todavía en estadio embrionario, es la capacidad de integrar la inteligencia artificial en cualquier entorno, algo así como una inyección en cualquier web, herramienta o programa donde se esté trabajando. En lugar de ir tú a la IA, la incorporamos a los sitios donde estamos operando con ella».
Noticia relacionada
El proceso de asesoría de OpenSistemas comienza con la identificación de los procesos clave, «muy centrados ahora mismo en el ahorro de costes y en la eficiencia, y en cómo la inteligencia artificial puede contribuir a ello», señala su CEO.
La dificultad de implantación de la IA explicable y su coste depende del tamaño de la compañía. ¿Para qué sectores está más indicada? Según Flores, «se aplica mejor donde hay mucho procesamiento de información automatizable, como la administración pública o en la banca». «Pero también en el ámbito de salud, en educación, en retail, donde haya interacción con el cliente», añade. Sobre la implantación de la inteligencia artificial en general y de la explicable en particular, Flores sostiene que «aunque existe mucho interés por este tipo de tecnologías, hay un poco de miedo también de cómo empezar y por dónde». «Se percibe reticencia, suspicacia… Y esto es un cambio estructural que va a llegar a todos los sectores. El que antes lo aplique y lo haga con éxito, saldrá victorioso», apunta este experto.
Fin a las alucinaciones
Un modelo LLM (Large language model) tiene entre sus funciones la capacidad de entender el lenguaje, de forma que si le envías un texto es capaz de resumirlo, ampliarlo, entender conceptos y entidades e intenciones que hay. Y también dispone de conocimiento, donde no se sabe de dónde sale la respuesta. Para cubrir esa laguna, se usan técnicas de RAG (Retrieval augmented generation). «Gracias a esta técnica sabemos de dónde sale la respuesta en la que se ha basado el sistema», comenta Jorge Sanz, director del área de Data&IA de Integra Tecnología. La implantación en España de la IA explicable se encuentra en sus primeras fases, dice: «Aunque no lo calificaría de incipiente, no está muy extendida. Pero ya hemos pasado de pilotos a proyectos. En septiembre de 2025 se realizaban pruebas de concepto, etapa que ya se ha superado».
Newsletter
Uno de los beneficios más tangibles del empleo de la IA explicable es que acaba con alucinaciones, «el hecho de que las respuestas que te va a dar son certeras y, lo más importante, trazables, y tú eres capaz de entender la contestación, en qué documento, en qué párrafo, en qué hoja se ha basado», apostilla.
Confianza, transparencia y cumplimiento normativo también se encuentran entre las ventajas de su utilización en empresas y organizaciones, relata el directivo de Integra Tecnología: «Como dispones de la trazabilidad, se genera confianza, porque no te basas únicamente en la respuesta que te ha dado, pues el propio modelo te determina el origen de la información».
El sector público es muy apropiado para el desarrollo de este modelo de inteligencia artificial, a juicio de Sanz: «Se está empleando, por ejemplo, en la baremación de méritos. En una oferta pública de empleo, donde hay distintos candidatos que presentan documentación con formación, experiencia, conocimientos… Los sistemas leen toda esa documentación y la enfrentan a la petición del puesto».
No se atreve Jorge Sanz a pronosticar una previsión de la evolución de la inteligencia artificial explicable: «Es algo complejo por cómo está avanzando este mundo. Los modelos son cada vez más estrictos y más pequeños, y no utilizan tanta información». Sobre la superposición de modelos, no se muestra partidario, porque «aumenta el coste».
Justificación
Javier Pérez, cofundador de Lienzzo, compañía especializada en implantar soluciones de IA a medida para empresas, considera que la IA explicable es «una herramienta útil y segura». «No basta con que un sistema responda bien: debe justificar qué fuentes ha utilizado, aportar citas exactas, mostrar el contexto de la respuesta y valorar el nivel de confianza para decidir si puede entregarse o debe pasar por supervisión humana», asegura Pérez.
Lienzzo aplica soluciones RAG, asistentes internos y agentes de IA conectados a documentación, bases de datos, ERPs (planificación de recursos empresariales) y CRMs (gestión de relaciones con el cliente). El objetivo es que la IA trabaje sobre conocimiento real de la organización, respetando permisos, trazabilidad y supervisión humana cuando el proceso lo requiere.
Una de las lecciones aprendidas, indica, «es que un proyecto de IA empresarial no empieza en el modelo, sino en el dato; muchas empresas tienen información dispersa en PDFs, carpetas, correos, bases de información con registros duplicados o desfasados y manuales a los que nadie accede».
«El trabajo importante está en ordenar ese conocimiento, estructurar los datos, decidir qué fuentes son válidas, cómo se actualizan, qué usuarios acceden a cada información y cómo se audita cada respuesta. Es la parte menos vistosa y la que muchas empresas se saltan por ir directamente a elegir qué modelo conectan a sus datos, sin control ni seguridad. Pasar esto por alto diferencia una implantación real de una demo que no llega a producción», subraya Pérez.
Confianza en acción
Chatpol es un ejemplo de las soluciones desarrolladas por Lienzzo. Se trata de un sistema RAG que utilizan ya en más de 20 ayuntamientos para Policía Local, con más de 2.000 usuarios, que han alcanzado ya las 50.000 consultas resueltas. Permite consultar normativa y documentación especializada cumpliendo requisitos clave: servidores en la Unión Europea, datos no utilizados para entrenar modelos, ENS (Esquema Nacional de Seguridad) de categoría alta y trazabilidad auditable. El cofundador de la compañía estima que «en un entorno así, la IA no puede limitarse a ‘dar una respuesta’, tiene que permitir comprobar de dónde sale, si la fuente está vigente y bajo qué condiciones se ha generado».
Cree Pérez que los métodos de XAI no deben quedarse en una explicación teórica del modelo: «En proyectos reales se traducen en arquitectura; recuperación documental, control de accesos, logs, citas verificables, evaluación de respuestas y mecanismos para corregir el conocimiento cuando cambia».
Después de implantar soluciones de inteligencia artificial en entornos reales con miles de usuarios, en Lienzzo se asume que el desafío no está en generar respuestas, sino en controlar calidad del dato, seguridad, permisos, trazabilidad y mantenimiento del conocimiento.
RSS de noticias de economia