“Algoritmos éticos”, ilusión más que solución

En Chile, ya están en uso diversos modelos algorítmicos predictivos. La Superintendencia de Seguridad Social, por ejemplo, emplea un modelo para predecir usuarios que tengan mayor probabilidad de formular reclamos. Y el Ministerio de Educación aplica un modelo para reducir arbitrariedades en los procesos de selección del muevo Sistema de Admisión Escolar. Junto a su implementación, destaca ella desarrollo de herramientas para la reducción de sesgos buscando crear “algoritmos éticos” que no arbitrariamente. Cabe, sin embargo, preguntarse: ¿Está este concepto ayudando en la integración de la ética en el avance de estas nuevas tecnologías? Analicemos esto dese tes puntos de vista. 

Primero, el ideal de reducción de sesgos. Es imposible aspirar a un modelo que carezca de todo sesgo. Esta meta propicia una visón de túnel, evitando que se ahonde en factores de inequidad sistémica. Conceptualizar problemas de justicia desde un enfoque "centrado en el sesgo" arriesga el suponer que, si un algoritmo es imparcial, es por tanto justo. Esto crea puntos ciegos, donde las soluciones algorítmicas se consideran éticas si cumplen con ciertos protocolos, reduciendo el desarrollo algorítmico a su aspecto computacional, y desestimándolo como un sistema sociotécnico creado a través de actividades humanas. (...)