La inteligencia artificial utiliza algoritmos complejos que son capaces de predecir posibles acontecimientos y dar a los profesionales herramientas muy útiles para emitir juicios de valor sobre varios asuntos como finanzas, medicina y en el polémico caso de Compas, también jurisprudencia.
En EEUU el reo Eric L.Loomis fue condenado a seis años de cárcel. Todo parece normal salvo que uno de los principales motivos que dio el juez fue que el algoritmo Compas le había clasificado de persona con un alto riesgo de reincidir en un delito. La polémica no se hizo esperar cuando la defensa pidió investigar el algoritmo pero se le denegó por ser propiedad privada de la compañía. Se constituye así una prueba judicial con un nivel de transparencia de cero.
El sistema Compas elabora su juicio de valor tras comparar el historial delictivo del reo con varios parámetros demográficos que le dan un valor de entre uno y diez a cada uno. Entre esas variables están datos como el género, la raza, el lugar de residencia o la edad. Rasgos totalmente inocentes en particular, pero que elevados al rango del Big Data dicen mucho sobre el individuo, y esto no puede ser.
Es cierto que la Inteligencia Artificial y el Big Data son dos herramientas imprescindibles para el futuro hiperconectado que nos espera en la vuelta de la esquina, pero también es cierto que no podemos dejar en manos de las máquinas elementos tan importantes como determinar si alguien es inocente o no. Una cosa es la estadística y otra es no atender a los casos que están fuera de ella. “No se puede considerar prueba de juicio un algoritmo que no es transparente, puede estar sesgado”, afirma la defensa del juzgado.
Si (
No(
