El Auge de la Inteligencia Artificial en los Informes Policiales: Innovación o Riesgo?

En un esfuerzo por reducir la carga administrativa de los agentes de policía, la empresa Axon, conocida por sus cámaras corporales y dispositivos Taser, ha lanzado su innovador software “Draft One”.
Este programa utiliza inteligencia artificial para transcribir el audio de las cámaras corporales y generar automáticamente borradores de informes policiales. Según Axon, esta herramienta puede ahorrar hasta una hora diaria de papeleo por oficial, permitiéndoles enfocarse más en la interacción comunitaria y en su bienestar físico y mental.
No obstante, la introducción de “Draft One” ha generado controversia. Aunque su uso está actualmente limitado a informes de incidentes menores en algunas ciudades como Oklahoma City, otras, como Lafayette en Indiana, han permitido su aplicación en todo tipo de casos.
Esto ha suscitado preocupaciones entre académicos y defensores de los derechos civiles, quienes temen que la IA pueda reproducir y amplificar sesgos raciales y de género ya presentes en el sistema de justicia.
Lindsay Weinberg, profesora asociada en la Universidad de Purdue y directora del Tech Justice Lab, advirtió que “los modelos de lenguaje grandes que sustentan herramientas como ChatGPT no están diseñados para generar verdad, sino para crear oraciones plausibles basadas en algoritmos de predicción”.
Weinberg subraya que la facilidad con la que se generan estos informes en un sistema legal que ya apoya la encarcelación masiva de poblaciones marginadas debería preocupar profundamente a quienes valoran la privacidad, los derechos civiles y la justicia.
Axon asegura que “Draft One” está diseñado para prevenir especulaciones y embellecimientos, y que cada informe es revisado manualmente antes de ser finalizado. Sin embargo, la implementación de esta tecnología sigue bajo escrutinio, especialmente en contextos donde los informes policiales pueden tener consecuencias significativas para los individuos involucrados.