La Policía Nacional abandonó su IA estrella para detectar denuncias falsas. Este juego prueba el problema que tenía de base
En octubre de 2018, la Policía Nacional lanzaba Veripol, una herramienta basada en inteligencia artificial con el cometido de detectar denuncias falsas. En aquella nota de prensa donde se informaba de sus características, se prometía una precisión del 90%. En 2024, la IA dejó de utilizarse oficialmente, tal y como aclarábamos recientemente. La idea de VeriPol era que pudiese detectar denuncias falsas de robos con violencia mediante procesamiento de lenguaje natural. Su desarrollo, realizado por investigadores universitarios y un exagente de policía con doctorado en matemáticas, se basó en un conjunto de datos de 2015 que varios expertos han puesto en duda. VeriPol y sus problemas de base Desde Civio, además de exponer que VeriPol utilizaba transcripciones de los agentes en lugar de testimonios directos, lo que generaba preocupaciones sobre posibles sesgos y falta de representatividad, también han querido explicar el funcionamiento de esta IA con un juego interactivo que añadieron a su investigación. En Genbeta El asistente con IA de Meta llega por fin a WhatsApp en España. Esto es todo lo que podrás hacer con él A pesar de que en sus inicios se mostraron resultados prometedores—con una alta tasa de confesiones tras identificar denuncias falsas—VeriPol enfrentó críticas importantes por la opacidad en su funcionamiento y la insuficiente transparencia en su documentación técnica, lo que impidió su validez en procedimientos judiciales y generó dudas sobre su fiabilidad. La entrada en vigor del Reglamento Europeo sobre Inteligencia Artificial en 2024, que estableció estrictos requisitos de revisión y transparencia para sistemas de alto riesgo, sumado a las deficiencias metodológicas identificadas, llevó al Ministerio del Interior a descontinuar VeriPol, aunque el uso de otras aplicaciones de IA en el ámbito de la seguridad pública continúa en marcha. Un juego interactivo para entender su funcionamiento Para ofrecer una explicación práctica sobre el funcionamiento de VeriPol, desde Civio han lanzado un pequeño juego que nos permite averiguar qué palabras hacían saltar las alarmas de esta inteligencia artificial. En este juego interactivo, los usuarios pueden escoger entre las opciones 'Verdadero' o 'Falso', e intentar acertar qué palabras podrían hacer que la IA determinase el testimonio de una denuncia como verdadero o falso. Imagen: Civio. Haz clic en ella para ir a la publicación ¿Cómo lo han hecho?: En febrero de 2023, Civio solicitó al Ministerio del Interior, en base a la Ley de Transparencia, las especificaciones técnicas y documentación sobre VeriPol, pero ante la negativa se presentó una reclamación ante el Consejo de Transparencia y Buen Gobierno, que finalmente ordenó facilitar la información, aunque solo se entregaron enlaces a notas de prensa. Posteriormente, en diciembre de 2024 se volvió a pedir datos más detallados, como el listado de comisarías y estadísticas de uso, a lo que el Ministerio respondió que habían dejado de utilizar VeriPol el 21 de octubre de 2024 y se negaron a proporcionar los datos. En Genbeta Google ha comprado Wiz por 32.000 millones. La mayor compra de su historia va de ciberseguridad El artículo también menciona la participación de David Cabo y Ana Villota en la génesis e implementación del juego asociado, y se detalla la inclusión de datos de 2015 y un listado de 110 términos (traducidos del español al inglés) recogidos en un pre-print de Knowledge-Based Systems, destinado a identificar patrones lingüísticos que indiquen denuncias falsas o verdaderas. Ante la falta del listado original en español, se ha optado por utilizar únicamente aquellos términos que contaban con contexto explicativo. Por último, se especifica que la visualización del juego se ha desarrollado utilizando Svelte.js, subrayando el esfuerzo por ofrecer una herramienta interactiva basada en análisis lingüístico para discernir la veracidad en los reportes policiales. Aunque VeriPol no tuvo éxito, España sigue utilizando inteligencia artificial en el ámbito de la seguridad. Existen otras herramientas activas, como Viogén, que evalúa el riesgo en casos de violencia de género, y RisCanvi, utilizada en Cataluña para gestionar el sistema penitenciario. Sin embargo, es probable que estas tecnologías sean ahora vigiladas con mayor rigor. La experiencia con VeriPol podría servir para mejorar y desarrollar futuras aplicaciones de IA en este sector. Imagen de portada | Testpolicia.es En Genbeta | La programación de software cambia para siempre con el 'vibe coding'. ¿Lenguajes a saber? Español. ¿Y el trabajo pesado? Para la IA - La noticia La Policía Nacional abandonó su IA estrella para detectar denuncias falsas. Este juego prueba el pr
En octubre de 2018, la Policía Nacional lanzaba Veripol, una herramienta basada en inteligencia artificial con el cometido de detectar denuncias falsas. En aquella nota de prensa donde se informaba de sus características, se prometía una precisión del 90%. En 2024, la IA dejó de utilizarse oficialmente, tal y como aclarábamos recientemente.
La idea de VeriPol era que pudiese detectar denuncias falsas de robos con violencia mediante procesamiento de lenguaje natural. Su desarrollo, realizado por investigadores universitarios y un exagente de policía con doctorado en matemáticas, se basó en un conjunto de datos de 2015 que varios expertos han puesto en duda.
VeriPol y sus problemas de base
Desde Civio, además de exponer que VeriPol utilizaba transcripciones de los agentes en lugar de testimonios directos, lo que generaba preocupaciones sobre posibles sesgos y falta de representatividad, también han querido explicar el funcionamiento de esta IA con un juego interactivo que añadieron a su investigación.
A pesar de que en sus inicios se mostraron resultados prometedores—con una alta tasa de confesiones tras identificar denuncias falsas—VeriPol enfrentó críticas importantes por la opacidad en su funcionamiento y la insuficiente transparencia en su documentación técnica, lo que impidió su validez en procedimientos judiciales y generó dudas sobre su fiabilidad.
La entrada en vigor del Reglamento Europeo sobre Inteligencia Artificial en 2024, que estableció estrictos requisitos de revisión y transparencia para sistemas de alto riesgo, sumado a las deficiencias metodológicas identificadas, llevó al Ministerio del Interior a descontinuar VeriPol, aunque el uso de otras aplicaciones de IA en el ámbito de la seguridad pública continúa en marcha.
Un juego interactivo para entender su funcionamiento
Para ofrecer una explicación práctica sobre el funcionamiento de VeriPol, desde Civio han lanzado un pequeño juego que nos permite averiguar qué palabras hacían saltar las alarmas de esta inteligencia artificial. En este juego interactivo, los usuarios pueden escoger entre las opciones 'Verdadero' o 'Falso', e intentar acertar qué palabras podrían hacer que la IA determinase el testimonio de una denuncia como verdadero o falso.
Imagen: Civio. Haz clic en ella para ir a la publicación
¿Cómo lo han hecho?: En febrero de 2023, Civio solicitó al Ministerio del Interior, en base a la Ley de Transparencia, las especificaciones técnicas y documentación sobre VeriPol, pero ante la negativa se presentó una reclamación ante el Consejo de Transparencia y Buen Gobierno, que finalmente ordenó facilitar la información, aunque solo se entregaron enlaces a notas de prensa. Posteriormente, en diciembre de 2024 se volvió a pedir datos más detallados, como el listado de comisarías y estadísticas de uso, a lo que el Ministerio respondió que habían dejado de utilizar VeriPol el 21 de octubre de 2024 y se negaron a proporcionar los datos.
El artículo también menciona la participación de David Cabo y Ana Villota en la génesis e implementación del juego asociado, y se detalla la inclusión de datos de 2015 y un listado de 110 términos (traducidos del español al inglés) recogidos en un pre-print de Knowledge-Based Systems, destinado a identificar patrones lingüísticos que indiquen denuncias falsas o verdaderas. Ante la falta del listado original en español, se ha optado por utilizar únicamente aquellos términos que contaban con contexto explicativo.
Por último, se especifica que la visualización del juego se ha desarrollado utilizando Svelte.js, subrayando el esfuerzo por ofrecer una herramienta interactiva basada en análisis lingüístico para discernir la veracidad en los reportes policiales.
Aunque VeriPol no tuvo éxito, España sigue utilizando inteligencia artificial en el ámbito de la seguridad. Existen otras herramientas activas, como Viogén, que evalúa el riesgo en casos de violencia de género, y RisCanvi, utilizada en Cataluña para gestionar el sistema penitenciario. Sin embargo, es probable que estas tecnologías sean ahora vigiladas con mayor rigor. La experiencia con VeriPol podría servir para mejorar y desarrollar futuras aplicaciones de IA en este sector.
Imagen de portada | Testpolicia.es
-
La noticia
La Policía Nacional abandonó su IA estrella para detectar denuncias falsas. Este juego prueba el problema que tenía de base
fue publicada originalmente en
Genbeta
por
Antonio Vallejo
.
