Na busca por uma inteligência artificial (IA) mais ética e responsável, os conceitos de fairness (imparcialidade, justiça) e bias (viés) são provavelmente os que recebem maior atenção e têm maior literatura acadêmica no estudo de algoritmos. Isso ocorre porque já existem muitos sistemas de IA em produção, não existem ainda marcos regulatórios adequados, e há grande preocupação com o fato de que modelos de Machine Learning podem incorporar bias de diferentes tipos, produzindo discriminação algorítmica (unfairness) contra determinados subgrupos da população.

Como veremos, o tema da discriminação algorítmica é bastante complexo. Trata-se de um problema “sociotécnico”, que envolve um aspecto tecnológico e também questões normativas ou filosóficas, tais como:
• O que significa “ser justo”?
• Fazer justiça é promover igualdade ou equidade entre diferentes subgrupos de indivíduos?
• Como a noção de “justiça” (e outros valores eticamente desejáveis, como “transparência”) pode ser implementada em sistemas de inteligência artificial?
• O que significa “discriminação”?
• Como a discriminação se manifesta nos sistemas de IA?
• Quais as origens possívels de bias em algoritmos? Quais métricas podem ser utilizadas para medir bias?
• Que tipo de danos o bias ou parcialidade algorítmica pode causar?
• Quais técnicas (processos, ferramentas) podem ser adotadas para detectar e mitigar o bias em algoritmos?
• Etc.

Os que tiverem interesse em se aprofundar nestas questões podem consultar https://www.etica-ia.com
Marcio Galvão (2022)