Propondo operações e processos baseados em princípios éticos para prevenir, identificar e corrigir sistemas de reconhecimento facial enviesados

Propondo operações e processos baseados em princípios éticos para prevenir, identificar e corrigir sistemas de reconhecimento facial enviesados

Trindade, Jorge Kayodê Lima

Oliveira, Fábio Henrique Monteiro (Orient.)

Ramos, Rodrigo (Coorient.)

O desenvolvimento de sistemas de Inteligência Artifical modernos, ao longo dos anos, está sendo marcado por uma série de tendências que acarretam a discriminação de vários grupos étnicos-raciais minorizados, através do funcionamento de tecnologias que utilizam técnicas de aprendizado de máquina para realizar a classificação e previsão sobre os dados dos usuários de diversas origens. A literatura descreve o racismo algorítmico como um problema mundial que afeta grupos populacionais minorizados em diversas situações de vulnerabilidade em razão de sua raça e etnia, e por esta razão é considerado um dos diversos sintomas das várias formas de racismo estrutural. Através desse trabalho, está sendo proposto um guia com operações e processos a serem utilizados para direcionar o desenvolvimento de sistemas de inteligência artificial e aprendizado de máquina, usando sistemas de reconhecimento facial como base e referência. Para fundamentar essas novas práticas, visita-se a área da ética e da epistemologia seguindo uma abordagem quanti-quali, a fim de prover definições e novos processos, indicadores e operações para evidenciar a transparência, a explicabilidade e a confiabilidade desses sistemas. Enquanto há diversos estudos que demonstram a baixa eficiência de guias como esse em reduzir o nível e número de sistemas de IA enviesados, aqui está sendo apresentado como resultado técnicas que partem da etapa do tratamento dos dados até o cálculo das métricas que representam a capacidade de um sistema de servir usuários que partem de diferentes populações do mundo todo. É possível concluir que há ações a serem feitas em cada etapa do desenvolvimento de um sistema de IA: Ao prevenir, se realiza o planejamento e alinhamento do desenho do sistema com os critérios e indicadores que podem direcionar o desenvolvimento do sistema para que não seja enviesado; para identificar,
e submete um sistema á auditoria ou á um sistema de monitoramento para entender as alterações e impactos que esses sistemas causam, e estão sendo sujeitos ao longo do tempo; e para corrigir, se busca aplicar o resultado dessa auditoria à revisão do sistema, ou buscar por técnicas que possam responder a esse viés que está discriminando o funcionamento desse sistema entre as diversas classes de um conjunto de dados, a partir dos sinais que serão evidenciados nas métricas desse sistema.

Racismo algorítmico

Guia de desenvolvimento

Inteligência artificial

Ética

Reconhecimento facial

2023

IFB Campus Brasília

A obra está regida pela licença pública Creative Commons e protegida pela Lei de Direitos Autorais, nº 9.610, de 19 de fevereiro de 1998, sendo proibido qualquer uso da obra que não o autorizado sob esta licença ou pela legislação.

PT

Monografia

80 p.

110524LC