¿Cómo evaluar la ética de los sistemas de información?

¿Cómo evaluar la ética de los sistemas de información y de los algoritmos? Jérôme Béranger responde a esta pregunta fundamental en DSIH (Décision Santé Informatique Hospitalière).

« La auditoría ética de un algoritmo no se improvisa: exige un método riguroso y criterios objetivables. »

Este artículo presenta el enfoque de auditoría ética desarrollado por GoodAlgo, articulado en torno a varios ejes fundamentales:

• Transparencia — ¿son las decisiones algorítmicas explicables y auditables?
• No discriminación — ¿el sistema no produce sesgos injustificados?
• Respeto de la privacidad — ¿los datos personales se tratan de conformidad con los derechos de las personas?
• Benevolencia — ¿el sistema está diseñado en interés de los usuarios finales?
• Responsabilidad — ¿quién responde de las decisiones tomadas o asistidas por la IA?

Esta cuadrícula de evaluación, aplicable a cualquier sistema de información que integre componentes algorítmicos o de IA, constituye la base de la plataforma DEO (Digital Ethics Observatory) de GoodAlgo.