Quando quis agilizar o processo de seleção de novos alunos, a tradicional faculdade britânica de medicina St. George usou um software para definir quem deveria ser entrevistado. Ao reproduzir a forma como os funcionários faziam essa escolha, o programa eliminou, de cara, 60 de 2.000 candidatos. Só por causa do sexo ou da origem racial, numa dedução baseada em sobrenome e local de nascimento. Um estudo sobre o caso foi publicado em 1988, mas, 25 anos depois, outra pesquisa apontou que esse tipo de discriminação segue firme. O exemplo recente envolve o buscador do Google: ao digitar nomes comuns entre negros dos EUA, a chance de os anúncios automáticos oferecerem checagem de antecedentes criminais pode aumentar 25%. E pode piorar com a pergunta “detido?” logo após a palavra procurada.
Disponível em: https://tab.uol.com.br. Acesso em 11 ago. 2017 (Adaptado)
O texto permite o desnudamento da sociedade ao relacionar as tecnologias de informação e comunicação com o (a):
A) agilidade dos softwares
B) passar dos anos
C) linguagem
D) preconceito
E) educação
✍ Resolução Em Texto
- Matérias Necessárias para a Solução da Questão:
- Interpretação de Texto
- Estudos de Mídia (Tecnologia e Sociedade, Vieses Algorítmicos)
- Sociologia (Preconceito, Discriminação Estrutural)
- Tema/Objetivo Geral: Analisar exemplos para compreender como as tecnologias da informação e comunicação, em vez de serem neutras, podem reproduzir e amplificar preconceitos existentes na sociedade.
- Nível da Questão: Fácil.
- A questão se resolve pela identificação do tema comum aos dois exemplos citados no texto. Tanto o caso da faculdade quanto o do Google são apresentados explicitamente como exemplos de “discriminação” baseada em “sexo ou origem racial”, tornando a conexão com o “preconceito” direta.
- Gabarito: D
- A alternativa está correta porque os dois exemplos centrais do texto descrevem a mesma situação: um software e um buscador que, ao processarem dados, acabam por praticar discriminação racial e de gênero. Isso “desnuda” (revela) como o preconceito, já existente na sociedade, é codificado e perpetuado pelas tecnologias.
PASSO 1 – O QUE A QUESTÃO QUER? (O MAPA DA MINA)
Decodificação do Objetivo: Em bom português, a missão é: “O texto mostra dois exemplos de como a tecnologia (um software de seleção e o Google) pode agir de forma injusta. O que esses exemplos revelam sobre a nossa sociedade quando a gente olha para a relação dela com a tecnologia?”
Simplificação Radical (A Analogia Central): Imagine que você ensina um robô a cozinhar apenas mostrando a ele os livros de receita da sua avó. O robô vai aprender a cozinhar, mas também vai aprender todos os “vícios” e “manias” da sua avó, como usar muito sal ou pouca pimenta. Ele não está “errando” por conta própria; ele está apenas reproduzindo perfeitamente os dados que recebeu. Os algoritmos do texto são como esse robô: eles foram “treinados” com dados do nosso mundo, que já está cheio de “sal” (preconceitos). O resultado é que o robô/algoritmo acaba cozinhando um prato “salgado”, ou seja, discriminatório. A questão nos pede para identificar o “sal” que está contaminando a receita.
Plano de Ataque (O Roteiro da Investigação):
- Analisar o Caso 1 (A Faculdade): Qual foi o “crime” cometido pelo software de seleção?
- Analisar o Caso 2 (O Google): Qual foi o “crime” cometido pelo buscador?
- Identificar o Modus Operandi Comum: Qual é o padrão, o problema de fundo que conecta os dois casos?
- Realizar a Autópsia: Vamos analisar cada alternativa para ver qual delas nomeia corretamente esse problema de fundo.
PASSO 2 – DESVENDANDO AS FERRAMENTAS (A CAIXA DE FERRAMENTAS)
Para este caso, a melhor ferramenta é uma Tabela de Análise Comparativa de Crimes Digitais. Ela nos ajudará a encontrar o padrão entre os dois incidentes.
| Análise da Evidência | Caso 1: Software da Faculdade | Caso 2: Buscador do Google |
| A Ação da Tecnologia | Eliminou 60 de 2.000 candidatos automaticamente. | Ofereceu anúncios de “checagem de antecedentes criminais”. |
| O Critério Utilizado | “Só por causa do sexo ou da origem racial“. | Ao digitar “nomes comuns entre negros dos EUA“. |
| O Mecanismo do “Crime” | O software aprendeu a discriminar ao “reproduzir a forma como os funcionários faziam essa escolha”. | O algoritmo associou uma característica racial a uma suspeita criminal. |
| O Nome do Crime | Discriminação de gênero e racial. | Discriminação racial. |
| O Veredito Comum | Em ambos os casos, a tecnologia não é a origem do problema, mas um espelho que reflete e automatiza um PRECONCEITO já existente na sociedade. |
Conclusão Forense: A tabela mostra que o fio condutor que liga os dois casos é o preconceito. A tecnologia, em vez de ser uma ferramenta neutra, acaba servindo como um megafone para preconceitos humanos, “desnudando” a discriminação que já estava presente nas ações das pessoas e nos dados que elas geram.
PASSO 3 – INTERPRETAÇÃO GUIADA (MÃO NA MASSA)
Nossa tabela já apontou o culpado. O texto usa os exemplos tecnológicos para fazer um diagnóstico da sociedade.
- O software da faculdade não inventou o preconceito. Ele foi programado para “reproduzir a forma como os funcionários faziam essa escolha”, o que significa que os próprios funcionários já eram enviesados. O software apenas tornou esse viés explícito e eficiente.
- O buscador do Google não “odeia” nomes de pessoas negras. Ele aprendeu, com base em bilhões de dados da internet (notícias, fóruns, etc.), a fazer uma associação estatística que reflete o racismo estrutural da sociedade.
A tecnologia, portanto, atua como um revelador, um “desnudamento” do preconceito que já permeia nossas estruturas sociais.
🚨 ARMADILHA CLÁSSICA! 🚨
CUIDADO! A armadilha mais sedutora é a alternativa (A), “agilidade dos softwares”. O texto de fato menciona que o processo foi “agilizado” e que o software eliminou candidatos “de cara”. O erro é confundir uma característica da ferramenta (a agilidade) com a questão social que o texto está denunciando. A velocidade do software não é o problema; o problema é a direção preconceituosa para a qual essa velocidade foi apontada.
A Bússola (O Perfil do Culpado):
- Síntese do raciocínio: A investigação dos dois exemplos mostra que eles são usados para ilustrar um único problema central: a replicação da discriminação social por sistemas tecnológicos.
- Expectativa: A alternativa correta deve nomear esse problema central, que é o preconceito.
PASSO 4 – ALTERNATIVAS COMENTADAS (A AUTÓPSIA)
Vamos agora interrogar cada um dos suspeitos.
- A) agilidade dos softwares.
- A “Narrativa do Erro”: O candidato cai na “Armadilha Clássica”, focando em uma característica secundária da tecnologia.
- O “Diagnóstico do Erro”: Confundir Meio com Fim. A agilidade é a forma como o preconceito foi aplicado, mas não o problema em si. O texto está criticando o resultado (a discriminação), não a velocidade com que ele foi alcançado.
- Conclusão: 🔴 Alternativa incorreta.
- B) passar dos anos.
- A “Narrativa do Erro”: O candidato foca no trecho que menciona “25 anos depois”.
- O “Diagnóstico do Erro”: Foco Incorreto. A passagem do tempo é mencionada para mostrar que o problema do preconceito persiste, mas não é o tema central. O tempo é o pano de fundo, não o ator principal.
- Conclusão: 🔴 Alternativa incorreta.
- C) linguagem.
- A “Narrativa do Erro”: O candidato foca na menção a “nomes” e “sobrenomes” como veículos do preconceito.
- O “Diagnóstico do Erro”: Reducionismo. A linguagem (os nomes) é a pista que os algoritmos usam para aplicar o preconceito, mas não é o preconceito em si. O problema não é a palavra, mas o viés associado a ela.
- Conclusão: 🔴 Alternativa incorreta.
- D) preconceito.
- Análise de Correspondência: Esta alternativa é o retrato falado da nossa Bússola. É a palavra exata que define o que aconteceu no caso da faculdade (“discriminação […] por causa do sexo ou da origem racial”) e no caso do Google (associação de nomes negros a crime). O preconceito é o elo que conecta a tecnologia à falha social.
- Conclusão: 🟢 Alternativa correta.
- E) educação.
- A “Narrativa do Erro”: O candidato foca no fato de que o primeiro exemplo acontece em uma faculdade.
- O “Diagnóstico do Erro”: Fuga ao Tema. A faculdade é apenas o cenário do primeiro exemplo. O segundo exemplo (Google) não tem nada a ver com educação. O tema que une os dois casos é o preconceito, não a educação.
- Conclusão: 🔴 Alternativa incorreta.
PASSO 5 – O GRAND FINALE (APRENDIZAGEM EXPANDIDA)
Frase de Fechamento: Confirmamos que a alternativa D é a correta. Este caso é uma poderosa lição sobre a falácia da neutralidade tecnológica: as ferramentas que criamos, por serem treinadas com nossos dados, inevitavelmente herdam e, por vezes, amplificam nossas próprias falhas e preconceitos.
Resumo-flash (A Imagem Mental): O algoritmo não é o criminoso, é o espelho que aprendeu a refletir o crime que já cometíamos.
Para ir Além (A Ponte para o Futuro): O mesmo princípio do viés algorítmico refletindo o preconceito social é um dos maiores desafios da Medicina Diagnóstica por Inteligência Artificial. Muitos algoritmos de diagnóstico por imagem (como os que detectam câncer de pele) são treinados predominantemente com imagens de pacientes de pele clara. Como resultado, sua precisão diagnóstica pode ser significativamente menor em pacientes de pele escura, replicando e amplificando uma desigualdade histórica no acesso à saúde e na pesquisa médica. O “desnudamento” do preconceito na seleção de alunos é o mesmo que hoje se discute para salvar vidas.
