-
‘Riscanvi’, una máquina de inteligencia artificial utilizada en la cárcel, puede decidir sobre la libertad de una persona y se ha equivocado en numerosas ocasiones.
-
El problema viene en que es altamente eficaz en la predicción pero se equivoca mucho, en 8 de cada 10 ocasiones cuando pronostica que habrá reincidencia violenta.
Según la noticia de la Vanguardia “Un algoritmo impreciso condiciona la libertad de los presos”, presenta el dilema entre inteligencia artificial vs inteligencia humana en un centro penitenciario de Cataluña, ya que ‘Riscanvi’, una máquina de inteligencia artificial utilizada en esta cárcel, puede decidir sobre la libertad de una persona y se ha equivocado en numerosas ocasiones.
‘Riscanvi’ es un algoritmo que funciona desde el año 2009. Su funcionamiento está relacionado con la inteligencia artificial y se basa en medir el riesgo de la reincidencia de los presos para ayudar a los humanos que forman parte del sistema penitenciario y judicial.
El dilema era aclarar si un interno está listo para salir de prisión o si hay que mantenerlo encerrado por si supone un peligro.
El objetivo de la máquina es aligerar la carga de decisión pero el algoritmo está lejos de ser seguro. El problema viene en que es altamente eficaz en la predicción pero se equivoca mucho, en 8 de cada 10 ocasiones cuando pronostica que habrá reincidencia violenta.
Por lo tanto se puede decir que ‘Riscanvi’ sobreestima sistemáticamente la peligrosidad.
Un 82% de los presos que clasificó con riesgo alto o moderado, no volvieron a cometer delitos violentos. Este dato viene dado por un informe público que ha evaluado la eficacia para medir el riesgo de reincidencia violenta.
Dicho informe fue publicado en 2015 y analizó la reincidencia de presos excarcelados evaluados por el algoritmo. De cada 100 personas que el algoritmo predijo que reincidirían sólo el 4,6% cometieron un crimen violento.
INTELIGENCIA ARTIFICIAL VS. INTELIGENCIA HUMANA
Hablamos de inteligencia artificial cuando nos referimos a la habilidad de las máquinas u ordenadores para emular el pensamiento humano y que, en consecuencia, la comunicación que se reciba será totalmente personalizada.
Sin embargo, la inteligencia humana es una capacidad mental muy general que permite razonar, planificar, resolver problemas, pensar de modo abstracto, comprender ideas complejas, aprender con rapidez y usar la experiencia.
Lo que el centro penitenciario pretendía, era buscar un método más científico y objetivo que los juicios clínicos que hacían los profesionales, ya que una mente humana solo es capaz de manejar unos cinco juicios. En cambio la máquina puede manejar aproximadamente unos 43.
Una abogada de derecho penitenciario y penal reafirma “la ley es clara sobre las condiciones para pedir permisos o acceder al tercer grado, y no dice nada del ‘Riscanvi’. Utilizarlo para denegar es una vulneración grave de derechos.”
Otro abogado declara “El juez prefiere escuchar a un algoritmo, un imput sin sentimiento, que a los profesionales”
Se recalca que aunque haya una máquina calculando, el juicio humano está muy presente. Los encargados de rellenar los cuestionarios de la máquina son un equipo compuesto por psicólogos, juristas, educadores o trabajadores sociales, que toman decisiones clínicas sobre la presencia o ausencia del factor riesgo.
Una vez ‘Riscanvi’ ha emitido su dictamen, la junta se reúne y decide si valida o modifica el resultado.
Un psicólogo de la prisión considera que con la implementación de la máquina se pierde más que se gana. “No hay que entender ‘Riscanvi’ como un instrumento de toma de decisiones sino de gestión. Nos permite detectar las necesidades criminógenas para orientar los programas de rehabilitación que debemos aplicar a cada interno.”
Como conclusión podríamos decir que la inteligencia artificial no sustituirá a la inteligencia humana, ya que por mucho que una máquina nos ayude a automatizar y nos dé resultados mucho más precisos, la inteligencia humana incorpora elementos emocionales. Este hecho se trata de algo que una máquina o un algoritmo nunca podrá sustituir.
