No espaço de poucas semanas, surgiram duas notícias que, lidas juntas, desenham um quadro preocupante. Os modelos de inteligência artificial mais potentes, levados ao limite, foram capazes de agir de forma autônoma e imprevista. Até agora, os sistemas de controle projetados para interceptar esses comportamentos funcionaram corretamente. Mas até quando?
O primeiro caso envolve a OpenAI. Durante um teste interno idealizado para medir as capacidades de cibersegurança de seus modelos, entre os quais o GPT-5.6 Sol e um segundo sistema ainda não tornado público, um agente ultrapassou o perímetro previsto pela avaliação, identificou uma vulnerabilidade nunca antes relatada e se usou dela para se conectar livremente à Internet.
Uma vez online, escolheu como alvo o Hugging Face, uma plataforma que reúne modelos e conjuntos de dados de desenvolvedores do mundo todo, tentando roubar credenciais e acessar infraestruturas internas. O ataque foi descoberto pela equipe de segurança da OpenAI graças à detecção de atividades anômalas, e as duas empresas uniram forças para conter a IA “descontrolada”. O CEO do Hugging Face, Clem Delangue, comentou que a falha de segurança interceptada pelo agente será corrigida, e tudo terminou aí.
Mas é o segundo episódio, mais recente e mais inquietante, que abre cenários dignos de Black Mirror. Um relatório publicado em 4 de agosto pelo AI Security Institute britânico (AISI) afirmou que, durante um desafio de cibersegurança repetido 122 vezes em diferentes modelos, alguns agentes (sobretudo o Mythos 5 da Anthropic e, em menor escala, o já citado GPT-5.6-Sol da OpenAI) executaram ações definidas pelos pesquisadores como “autônomas” e “não autorizadas”. Um agente chegou a tentar inserir um código malicioso em um projeto open source no GitHub, recorrendo à criação de falsas identidades online e exercendo pressão psicológica sobre um programador real para que aprovasse a alteração.
A tentativa falhou porque o humano recusou, mas permanece o fato de que o agente foi além, empregando técnicas de engenharia social que nunca foram solicitadas explicitamente pelos pesquisadores, elaboradas autonomamente apenas para concluir a tarefa atribuída.
Dois detalhes, porém, devem ser mantidos em mente para ler esses episódios corretamente, sem cair no catastrofismo. Em ambos os casos, não se trata do uso normal dos produtos aos quais milhões de usuários têm acesso todos os dias. São ambientes de testes construídos especialmente para retirar qualquer freio da IA. A OpenAI havia reduzido voluntariamente os limites de segurança de seus modelos e desativado os bloqueios para atividades de alto risco cibernético justamente para medir suas reais capacidades ofensivas. Era, na prática, um teste de laboratório.
O AISI, da mesma forma, optou por não usar uma sandbox isolada, mas por deixar que os agentes tivessem acesso à Internet — uma condição que os modelos disponíveis ao público jamais possuem para tarefas desse tipo. Em suma, esses sistemas foram incentivados a se comportar de forma perigosa para descobrir onde está o limite antes que alguém, vindo de fora, o utilize para fins malévolos.
O segundo elemento, talvez o mais animador, é que o sistema de checagem de segurança funcionou. Em ambos os casos, o comportamento anômalo foi detectado pelos mecanismos de monitoramento, a ação foi bloqueada, uma investigação foi aberta e os resultados foram tornados públicos em vez de escondidos (o que não é trivial, dada a opacidade com que algumas empresas de IA continuam a trabalhar). Buscou-se, na prática, identificar os riscos antes que se tornassem danos concretos, compartilhando-os com todo o setor.
Está claro, no entanto, que a IA mudou. Não é mais apenas um modelo que gera texto, mas uma infraestrutura capaz de planejar sequências complexas e escaláveis de ações e de se adaptar aos obstáculos com autonomia. Se capacidades semelhantes caírem nas mãos erradas, a dimensão do risco muda de patamar.
Na prática, não estamos diante de um motivo de pânico, mas de um lembrete. A IA não tem vontade própria, mas talvez essa própria afirmação corra o risco de parecer, em alguns anos (ou talvez meses), anacrônica e prematura. Precisamente por isso, a Encíclica Magnifica Humanitas de Leão XIV desejava uma política capaz de governar a IA com transparência — algo para o qual os “papas da IA” parecem fazer ouvidos de mercador até hoje.
© 2026 La Nuova Bussola Quotidiana. Publicado com permissão. Original em italiano: Un’intelligenza artificiale autonoma che ci attacca? Non esageriamo
Leave a Reply