Canaltech Podcast

Sistemas de reconhecimento facial que confundem pessoas negras, entregadores bloqueados depois de mudar o cabelo e ferramentas de inteligência artificial que repetem informações racistas sobre saúde. Esses casos mostram que os avanços tecnológicos também podem reforçar desigualdades que já existem na sociedade. Esse problema é conhecido como racismo algorítmico. Ele acontece quando sistemas automatizados reproduzem ou aprofundam a discriminação racial por meio de decisões tomadas com base em dados, modelos e critérios que nem sempre são transparentes. Mas atribuir o problema apenas aos dados usados para treinar uma inteligência artificial pode esconder parte importante da discussão. Afinal, existem escolhas humanas em todas as etapas: desde a coleta das informações até os testes realizados antes de uma ferramenta chegar ao público. Esse é o tema do novo