Por Aldaci de Souza
O programa Elas no Comando exibido pela TV Alese Canal 5.2 debateu na tarde da última terça-feira, 3, o tema: Algoritmo e Racismo. A apresentadora Aline Braga entrevistou a co-diretora da Organização Social com foco em inovação, tecnologia e diversidade (Olabi), Silvana Bahia e a Cientista da Computação, Ana Carolina da Hora.
Vários países já estão combatendo o racismo quanto aos algoritmos de inteligência artificial para reconhecimento facial. A preocupação é de que hajam riscos de que isso possa reforçar o preconceito e com isso, agrave ou possibilite a realização de práticas discriminatórias.
De acordo com Ana Carolina, conhecida como Nina, o algoritmo se popularizou e até mesmo nas universidades é ensinado como se fosse uma receita de bolo. “Realmente são instruções que podem ser criadas e executadas. Os algoritmos podem estar conectados a um meio digital ou a um meio social não digital. Quando eles encontram a base de dados e conteúdos em redes sociais por exemplo, são classes representadas por regras modeladas a partir de informações que nós seres humanos compartilhamos e precisam ter uma base de dados para ocorrer o processamento”, explica.
A representante da Olabi, Silvana Bahia ressaltou que o algoritmo entrou no vocabulário das pessoas no último ano por conta dos acontecimentos da pandemia e por conta de um tempo maior de pessoas conectadas. “Talvez a gente pudesse entender de um jeito mais aberto, trata-se de um caminho que a máquina faz para executar uma determinada ação, desde quando se busca uma passagem ou escolhe um filtro para usar no Instagram”, complementa.
Os países devem fazer mais para combater o racismo, especialmente nos algoritmos de inteligência artificial para reconhecimento facial ou os controles policiais podem reforçar essas práticas, alertaram nesta quinta-feira (26) especialistas da ONU.
Racismo
Sobre o racismo, as discussões estão crescendo em torno dos sistemas de reconhecimento facial, principalmente quanto ao uso para justificar a prisão de homens negros, que conseguiram comprovar a inocência. Para se ter uma ideia, existem programas de celular e filtros de redes sociais que podem mudar as fotos, afinando o nariz e clareando a cor da pele. Isso reforça os esteriótipos discriminatórios nos padrões de beleza.
Silvana Bahia lembrou que a tecnologia não é neutra. “As tecnologias são criadas por pessoas e a gente esquece. Quando a gente olha para o Brasil que tem uma população majoritariamente negra, percebe os riscos, a exemplo de se detectar um rosto branco e não um negro”, diz acrescentando que o momento é de muitas dúvidas e que as pessoas devem ficar atentas, usando o digital de forma melhor e mais qualificada.
“O debate é muito mais profundo e precisa haver muita transparência. Nós não temos maturidade para ter respostas a esse tipo de tecnologia. Cerca de 80% dos jovens negros estão com medo desse reconhecimento facial, cujos algoritmos puxam as imagens numa base e se verifica todo um perfil, mas é preciso ter muita segurança para não punir pessoas erradas e causar impactos psicológicos”, enfatiza.
Foto: almapreta.com
