A Inteligência Artificial (IA) já é uma realidade, e não podemos negar que influencia diversas áreas da vida cotidiana, inclusive a educação.

Um estudo desenvolvido pela professora Rosa Maria Vicari, da Universidade Federal do Rio Grande do Sul (UFRGS), sugere que até 2030, as inovações tecnológicas deverão estar em até 50% nas escolas públicas e privadas do Brasil, e a computação em nuvem, nos próximos anos, estará em 70% das instituições de ensino.

Mas como essa inteligência será utilizada sem reproduzir estereótipos e preconceitos? Afinal, a IA é feita por humanos, e humanos criam e reproduzem estereótipos e preconceitos.

No Brasil, a tecnologia de reconhecimento facial começou a ser testada em 2019, segundo artigo de Bruno Sousa, publicado no site Rede de Observatórios da Segurança, em abril de 2021. No primeiro ano, 184 pessoas foram presas com o uso dessa tecnologia - 90% eram negras. O artigo mostra, ainda, uma mulher negra, inocente, que foi presa no Rio de Janeiro (RJ), após ser apontada pela IA como foragida, por ter mais de 70% de semelhança com outra mulher, esta, já encarcerada. Seria isso um exemplo comprovado do racismo algorítmico?

O racismo algorítmico é uma das derivações do racismo estrutural

Em um mundo que se relaciona, cada vez mais, pelos novos meios de comunicação, pela internet e pelos algoritmos, o racismo também é produzido no meio virtual. Isso se deve porque os software e aplicativos são produzidos por seres humanos - em geral brancos e do Norte Global -, que acabam inserindo nos produtos concebidos o racismo do qual compartilham. Nesse sentido, a inteligência artificial não é neutra; ela é fruto de um processo histórico e social que influencia diretamente nos algoritmos.

A inteligência artificial reproduz todas as discriminações como sexismo, homofobia e, sobretudo, racismo, pois sua base de dados é criada por pessoas que a alimentam com informações racistas. Diversos softwares de reconhecimento facial não conseguem identificar quando pessoas negras tentam realizar o reconhecimento. Isso ocorre porque a tecnologia foi desenvolvida não apenas por profissionais brancos, mas para reconhecer rostos de pessoas brancas. Dessa maneira, quando pessoas negras procuram acessar, não conseguem realizar o reconhecimento: a base algorítmica do sistema não reconhece os rostos com tonalidades de pele com mais melanina.

A produção dos aplicativos e softwares também é resultado do racismo estrutural, porque aqueles que o fazem são racistas, ou compartilham de racismo. Por exemplo: aplicativos de reconhecimento facial utilizados por empresas de segurança e por forças policiais selecionam pessoas negras como suspeitas, ou que devem ser abordadas por policiais, pois a base de dados para identificar alguém suspeito foi criada sob um ponto de vista racista - na lógica do negro como "alguém perigoso".

Para termos, de fato, uma educação antirracista, o pensamento crítico sobre o racismo algorítmico e os impactos sociais das tecnologias digitais são fundamentais.

--

Sobre o Canal Futura

O CANAL FUTURA tem a missão de contribuir, por meio da comunicação, da educação e da articulação social, para o desenvolvimento integral de pessoas e comunidades. Pretende ser um canal de expressão e um espaço de encontro para diferentes segmentos sociais. Em suas práticas e produções, o CANAL FUTURA procura ser uma referência em mídia de interesse público, capaz de inovar nos modos de realização e produção de conteúdo, assim como colaborar com processos de transformação social que emancipam o ser humano. Nesse sentido, pluralidade de pontos de vista, diversidade narrativa e coautorias são marcas de identidade.

Acesse os conteúdos Futura

Na TV:

Não perca a programação do Futura na sua TV. Você pode conferir nas principais operadoras do país pelos seguintes canais:

Sky – 434 HD e 34
Net e Claro TV – 534 HD e 34
Vivo – 68HD e 24 fibra ótica
Oi TV – 35

Na web:

Globoplay
Site do Futura
Facebook
Youtube
Tik Tok
Instagram
Twitter

A inteligência artificial é racista?

Artigo: A inteligência artificial é racista?

Artigo: A inteligência artificial é racista?

A inteligência artificial é racista?

Ajude o Co.Educa a evoluir