En los últimos años, el uso de algoritmos en el ámbito de la justicia ha suscitado un intenso debate sobre su efectividad y ética. Uno de los ejemplos más destacados en este contexto es RisCanvi, un sistema predictivo implementado en las prisiones catalanas que evalúa el riesgo de reincidencia de los internos. Desde su creación en 2010, RisCanvi ha evolucionado y se ha adaptado a las demandas sociales y técnicas, pero también ha enfrentado críticas por su opacidad y su impacto en la reinserción de los presos vulnerables.
### Orígenes y Funcionamiento de RisCanvi
El desarrollo de RisCanvi comenzó a finales de la década de 2000, cuando las autoridades penitenciarias de Catalunya se interesaron en replicar herramientas predictivas utilizadas en Estados Unidos y Canadá. Este sistema se basa en modelos estadísticos avanzados que analizan datos históricos de reincidencia para identificar patrones de comportamiento entre los internos. Según Antonio Andrés Pueyo, catedrático de Psicología en la Universitat de Barcelona, el diseño inicial de RisCanvi se realizó siguiendo estándares científicos, lo que le otorgó una base sólida para su funcionamiento.
El algoritmo evalúa a cada interno utilizando una serie de variables que incluyen factores demográficos como sexo, edad y nacionalidad, así como aspectos relacionados con su situación penal. A partir de estos datos, RisCanvi genera una puntuación que ayuda a los jueces a tomar decisiones sobre la libertad condicional y otros permisos. Sin embargo, este sistema ha sido criticado por su falta de transparencia y por el impacto negativo que puede tener en los internos más vulnerables, quienes a menudo enfrentan mayores dificultades para reintegrarse en la sociedad.
### La Actualización de RisCanvi: Nuevas Tecnologías y Desafíos
Después de más de una década de funcionamiento, en 2024 se llevó a cabo la primera auditoría independiente de RisCanvi, lo que marcó un hito en la evaluación de su efectividad. Este informe, realizado por Dribia Data Research, concluyó que la capacidad predictiva del sistema se alineaba con otros algoritmos similares en el extranjero. Sin embargo, también se identificaron áreas de mejora, lo que llevó a la Generalitat a iniciar un proceso de actualización del sistema.
Uno de los cambios más significativos que se están considerando es la incorporación de técnicas de aprendizaje automático. Estas técnicas permitirían que el algoritmo se recalibre constantemente a partir de nuevos datos, lo que podría mejorar su precisión y adaptabilidad. Sin embargo, este enfoque también plantea preocupaciones sobre la complejidad del sistema y la dificultad de auditar su funcionamiento de manera independiente.
Carlos Castillo, científico de datos de la Universitat Pompeu Fabra, ha abogado por una mayor atención a los factores dinámicos que pueden influir en el comportamiento de los internos, sugiriendo que el algoritmo debería otorgar más peso a las variables que están bajo el control del individuo. Esto podría facilitar un enfoque más equitativo en la evaluación del riesgo de reincidencia, permitiendo que los internos que demuestran cambios positivos en su comportamiento sean considerados para una reintegración más rápida.
### La Interacción Humano-Máquina en la Toma de Decisiones
Uno de los aspectos más controvertidos de RisCanvi es la interacción entre los algoritmos y los profesionales que toman decisiones basadas en sus recomendaciones. Aunque el sistema no es determinista y siempre hay un ser humano que toma la decisión final, la influencia del algoritmo puede ser significativa. Estudios recientes han demostrado que las predicciones algorítmicas pueden afectar la forma en que los humanos toman decisiones, a menudo de manera no intencionada.
Investigaciones realizadas en la Universidad de Deusto han mostrado que las decisiones humanas pueden verse condicionadas por recomendaciones algorítmicas, incluso cuando hay información contradictoria disponible. Esto plantea preguntas sobre la responsabilidad y la ética en la toma de decisiones, especialmente en un contexto tan delicado como el sistema penitenciario.
Judith Membrives, responsable de Tecnología y Derechos Humanos en una federación de ONG catalanas, ha señalado que, aunque la actualización de RisCanvi podría mejorar la fiabilidad de sus predicciones, también presenta nuevos desafíos. A medida que los modelos se vuelven más complejos, se hace más difícil entender cómo llegan a ciertas conclusiones, lo que complica la auditoría y la supervisión del sistema.
### La Búsqueda de un Equilibrio
El futuro de RisCanvi y su impacto en el sistema penitenciario catalán dependerá de cómo se aborden estos desafíos. La Generalitat ha expresado su compromiso de aumentar la transparencia y la rendición de cuentas, incluyendo la creación de un repositorio de código y documentación, así como la apertura de datos anonimizados para la comunidad científica. Sin embargo, es crucial que estas medidas se implementen de manera efectiva y que se mantenga un diálogo abierto con las partes interesadas, incluidos los defensores de los derechos humanos y los expertos en tecnología.
La evolución de RisCanvi es un reflejo de la creciente intersección entre la tecnología y la justicia. A medida que los algoritmos se integran más en los procesos de toma de decisiones, es fundamental que se realicen esfuerzos para garantizar que estos sistemas sean justos, transparentes y responsables. Solo así se podrá asegurar que la tecnología sirva como una herramienta para mejorar la justicia y la reinserción social, en lugar de perpetuar desigualdades y riesgos para los grupos más vulnerables.
