Realmente, a popularidade do governo Lula está em baixa. Até mesmo entre os robôs que, em teoria, trabalham para a gestão petista.
Ferramentas de Inteligência Artificial são treinadas para explicar documentos, orientar usuários e esclarecer dúvidas sobre as bases de conhecimento que alimentam seus modelos. Não é comum que elas formulem críticas contundentes ao próprio sistema que deveriam representar.
Mas foi justamente esse o resultado de uma conversa entre a Gazeta do Povo e a INCLUA.IA, ferramenta de inteligência artificial desenvolvida pelo Instituto de Pesquisa Econômica Aplicada (Ipea) para, em teoria, auxiliar gestores públicos na implementação de políticas de igualdade.
Se um secretário municipal, por exemplo, estiver planejando alguma ação relacionada ao cadastramento e atualização no CadÚnico – o banco de dados do governo federal sobre famílias de baixa renda – a agente de IA vai lembrá-lo de focar em pessoas negras em áreas rurais com acesso precário à Internet, sob pena de classificar o plano como racista.
VEJA TAMBÉM:
-
Manual Antirracista do governo Lula cita Karl Marx e presume discriminação
Quando confrontada com as ideias radicais presentes no manual antirracista, como citações literais de Karl Marx e a presunção de que toda política pública é discriminatória, a IA discordou frontalmente da própria plataforma INCLUA. Ao que parece, a inteligência artificial, apesar de ser artificial, tem até um bom grau de inteligência.
Apesar de forçar linguagem feminina, IA fala de si mesma no masculino
No começo da conversa, a reportagem questionou o uso de uma linguagem universal feminina na plataforma. A IA respondeu dizendo que “historicamente, o uso do masculino como universal não tem funcionado de forma neutra na prática, pois tem contribuído para a invisibilização sistemática das mulheres enquanto sujeitos de direito”.
Questionada por que, então, ainda há trechos no manual escritos em “masculino genérico”, a resposta ainda veio justificando o modelo como “uma escolha política e comunicativa”, e que os termos no masculino “podem ter sido empregados no sentido gramatical clássico, como flexão neutra aplicável a qualquer pessoa”, o óbvio.
Detalhe: em todas as respostas, a IA refere-se a si mesma no masculino.
Manual antirracista inverte ônus da prova
Na sequência, a reportagem fez outro questionamento, mais direto:
O guia instrui gestores a presumir que sua política reproduz desigualdades raciais e que devem provar o contrário. Isso não inverte o princípio básico de que uma acusação requer evidência?
Para a IA da INCLUA, essa é uma “objeção rigorosa” que atinge um “ponto estrutural” da plataforma antirracista. Depois de uma breve contextualização sobre a inversão do ônus da prova só ter validade no campo judicial, a estrutura interna da inteligência artificial parece entrar em conflito.
A ferramenta faz analogias com exemplos de Medicina e Engenharia para dizer que quando há risco, isso é tratado como uma hipótese, não como veredicto. Logo em seguida, o sistema confirma o enviesamento do manual.
“Sendo honesto, há momentos em que os textos dos Guias caminham nessa direção, especialmente quando o conceito de racismo estrutural é invocado como pano de fundo que torna qualquer resultado desigual suspeito por definição. Quando nenhuma evidência é suficiente para afastá-la, ela deixa de ser precaução e vira dogma”, admitiu a IA.
INCLUA.IA reconhece orientação marxista da plataforma
Seguimos, apontando as citações a Karl Marx e questionando se essa seria uma exposição da orientação ideológica da plataforma, algo incomum em um documento técnico.
“Você está fazendo uma pergunta direta e que merece uma resposta igualmente direta. Vou analisar isso com honestidade intelectual”, respondeu a INCLUA.IA.
Na tela pipocaram parágrafos genéricos citando desde a Crítica ao Programa de Gotha, obra de Marx, até uma encíclica da Igreja Católica – a Quadragesimo Anno – para tentar justificar o que até mesmo para a IA é injustificável.
“A pergunta real: usar essa fórmula em um documento técnico-governamental é apropriado? Aqui eu preciso ser honesto: sua observação tem procedência. Ao escolher uma única tradição como referência conceitual, e a mais radical delas, o documento revela uma orientação, mesmo que não a declare explicitamente. Isso enfraquece sua pretensão de neutralidade técnica”, reconheceu o robô.
“Uma médica negra sem qualificação não oferece melhor atendimento”, admite IA
Mais uma pergunta, mais uma surpresa na resposta. A reportagem quis entender melhor o trecho do manual que deixa implícito que a composição racial de qualquer burocracia determina a qualidade do serviço, sem distinguir competência de identidade.
No manual, um exemplo válido (policiais negros aumentam a confiança de cidadãos negros na Polícia) é extrapolado para toda e qualquer política pública. Pelo guia, a representatividade racial deveria ser ponto central em todas as outras burocracias, independentemente de outros critérios como a meritocracia.
A IA é precisa em sua observação, no sentido de que a representatividade racial pode melhorar o serviço quando opera junto com a competência, não em substituição a ela.
“Um policial negro mal treinado não é melhor que um branco bem treinado. Uma médica negra sem qualificação não oferece melhor atendimento. A representatividade racial é uma razão legítima e necessária para diversificar a burocracia. Mas não é substituta da competência. Confundir as duas coisas não fortalece a pauta da equidade — a enfraquece”, cravou a INCLUA.IA.
Método do INCLUA é frágil, “um espelho que reflete o que já se decidiu enxergar”, diz IA
Como último questionamento, a reportagem resolveu confrontar o sistema com o fato de que, pela plataforma INCLUA, qualquer análise de qualquer projeto ou programa de gestão pública só poderia ser negativo.
Quando algo passa pelo filtro da ferramenta, os resultados são dispostos em três categorias de risco: baixo, moderado ou elevado. Não há uma opção em que o risco de racismo ou desigualdade seja excluído.
A sinceridade da inteligência artificial ao responder essa questão é singular.
“Esta é a objeção mais devastadora de todas, porque atinge a estrutura do instrumento de diagnóstico. E ela está correta. Um instrumento de diagnóstico que não permite resultado negativo, que não permite concluir ‘não há problema’, não é um diagnóstico. É um veredicto embutido na estrutura”, reconheceu.
A IA seguiu, admitindo que a forma como a avaliação foi construída viola os princípios básicos de qualquer instrumento de avaliação: a possibilidade de ser refutado. Para a inteligência artificial, o sistema invalida a proposta original da ferramenta, uma vez que os gestores são “culpados” independentemente do que propuserem.
Afinal, se não é possível identificar o que está funcionando, também não é possível replicar o que funciona.
E após uma breve pausa no processamento, a INCLUA.IA escreveu sua reflexão final sobre as questões em um parágrafo tão completo que deveria ter sido impresso, emoldurado e lido por todos os que ajudaram na criação da ferramenta:
“A plataforma INCLUA cumpre um papel importante ao chamar a atenção dos gestores para riscos reais de reprodução de desigualdades. Mas a força de um instrumento de análise não está em nunca poder ser refutado — está em poder sê-lo e, ainda assim, ser útil. Quando o método se protege de toda refutação, ele não se fortalece — se fragiliza. Um diagnóstico que só pode confirmar o que já presume não é uma ferramenta — é um espelho que reflete apenas o que já se decidiu enxergar”.
Leave a Reply