Inteligência artificial precisa de olhar e referências negras, diz especialista

A pesquisadora Mabel Freitas abordou o tema no Congresso Nacional de Direito promovido pela Unit e discutiu como o racismo pode ser reforçado pelas novas tecnologias - e como isso deve ser enfrentado

O uso da inteligência artificial nas mais diversas tecnologias vêm levantando discussões sobre direitos humanos, diversidade e enfrentamento às desigualdades e discriminações, incluindo o racismo. Para isso, faz-se necessário que os responsáveis por programar e operar estas tecnologias também tenham olhar e consciência racializada. Esta é a opinião da educadora e pesquisadora Mabel Freitas, pós-doutora em Educação pela Universidade de São Paulo (USP) e integrante do Laboratório Experimental de Arte-Educação e Cultura (Lab_Arte), ligado à Faculdade de Educação da USP. Ela abordou o tema na palestra de abertura do 21º Congresso Nacional de Direito (21º Conadi), realizado nesta semana em Aracaju pela Universidade Tiradentes (Unit). 

A discussão da palestra foi sobre o racismo estrutural à luz da inteligência artificial e as violações de direitos fundamentais pelos vieses algorítmicos. O assunto surgiu a partir de episódios relacionados a sistemas de reconhecimento facial que utilizam algoritmos e softwares para mapear padrões nos rostos das pessoas e assim identificar ou confirmar a sua identidade. Em muitos casos, ocorridos inclusive no Brasil, pessoas negras e indígenas acabaram abordadas e detidas pela polícia por causa de erros de interpretação dos sistemas de reconhecimento usados pelos órgãos de segurança. 

Na visão de Mabel, considerada uma das principais referências em educação antirracista no Brasil, muitos destes problemas relatados nos sistemas de reconhecimento e de inteligência artificial dependem do padrão e do olhar racial adotado pelos responáveis por programar e por operar estas tecnologias. “Quando a gente fala em tecnologia, a gente precisa ver nela uma aliada. Não dá para a tecnologia atualizar a perversidade que é o racismo. Não dá para a gente continuar execrando corpos pretos, tendo como parâmetro apenas o perfil caucasiano. É preciso que a gente entenda que a tecnologia veio somar. Então, se precisamos atualizá-la e ressignificá-la, faremos. O que não podemos é abandonar o potencial que a tecnologia tem em detrimento dos programadores e programadoras que precisam revisitar o seu olhar”, diz ela. 

O racismo é considerado crime no Brasil desde 1989, desde a promulgação da Lei Caó (7.716/1989), que prevê penas entre 2 e 5 anos de prisão, além do pagamento de multa. A regra também é embasada na Constituição Federal. “O racismo é um tema lamentável, mas que acompanha a história do Brasil há séculos, e a Constituição do Brasil de 1988 teve uma preocupação muito grande com a construção de uma sociedade destituída de preconceitos, construção de uma sociedade livre, justa e solidária, como diz o texto constitucional. No seu preâmbulo, ela prega a formação de um Estado fraternal, um Estado comprometido com a redução de desigualdades e, acima de tudo, para combater preconceitos”, afirma o professor Carlos Augusto Alcântara Machado, do curso de Direito da Unit

Estudos e políticas públicas

A questão envolvendo os algoritmos e os direitos fundamentais das pessoas é mais aprofundada em pesquisas científicas elaboradas pelos alunos e professores do Programa de Pós-Graduação em Direitos Humanos (PPGD/Unit), em conjunto com os alunos de iniciação científica do curso de Direito da Unit. segundo a coordenadora do programa, professora Grasielle Borges Vieira, a ideia de abordar esta temática surgiu a partir das  discussões sobre o uso da tecnologia para o enfrentamento contra o racismo algoritmo, o racismo estrutural e a violência contra crianças e adolescentes, mulheres, LGBTs e outras minorias. 

“Nós buscamos entender de que forma a tecnologia pode ajudar, buscando ferramentas e mecanismos para a gente poder auxiliar e fazer um diálogo com a sociedade, articulando políticas públicas envolvendo a temática, principalmente a relação entre diversidade, tecnologias e justiça social. Na medida em que olhamos para a tecnologia como um caminho importante do século XXI, a gente precisa pensar, por exemplo, nas vulnerabilidades. E, por causa disso, a gente faz uma articulação com a diversidade. Quanto mais diversa é a nossa sociedade, mais a gente precisa aprofundar sobre temáticas, exatamente para que haja pluralidade, inclusão e pertencimento de diversos grupos vulnerabilizados que não são vistos”, observa Grasielle.

O congresso

O Conadi, encerrado nesta sexta-feira, 27, também abordou temas como cidades inteligentes, a inteligência artificial e Lei Geral de Proteção de Dados (LGPD), direito de família, fundamentação adequada das decisões judiciais, desafios das vulnerabilidades para a justiça social e garantia de direitos à população LGBTIQIA+. Entre os especialistas convidados, estiveram estão o diretor e cofundador do Data Privacy Brasil, Bruno Bioni; a presidente da Comissão de Processo Civil da OAB Sergipe, América Nejaim; a professora e arquiteta Cintia de Castro Marino e o professor Paulo Iotti, especialista em Direito da Diversidade Sexual. 

“Quando a gente fala sobre diversidade, tecnologia e justiça social, estamos falando da evolução da sociedade e o papel da tecnologia para permitir a inclusão. A gente tenta trazer novas visões sobre várias áreas do Direito. Elas podem ser um diferencial para os nossos estudantes a partir do momento em que, captando aquilo que vai ser discutido, ele possa utilizar na sua advocacia ou mesmo na sua dinâmica profissional, seja lá qual for”, destaca o professor Mario Jorge Tenorio Fortes Junior, coordenador da área de Direito da Unit. 

Ao todo, mais de 900 estudantes e profissionais participaram do evento, que também teve transmissão em tempo real para alunos dos cursos de Direito nos campi da Unit em Aracaju, Estância, Itabaiana e Propriá.