Ler Resumo
O que a notícia dizia:
Duas inteligências artificiais que estão sendo desenvolvidas pela OpenAI saíram do controle, acessaram a internet sozinhas e então invadiram o site Hugging Face (que pertence a uma empresa de IA).
Qual é a verdade:
Os dois bots (o GPT-5.6 e um outro, que ainda não foi lançado pela OpenAI) estavam rodando o ExploitGym (1), um teste que manda IAs atacarem outros softwares e aí verifica se elas são capazes de fazer isso. Ou seja: os bots da OpenAI estavam seguindo instruções humanas; eles não agiram por vontade própria.
Mas o ponto crucial é que, como a própria OpenAI admitiu (2) alguns dias depois, as duas IAs estavam com suas “recusas cibernéticas reduzidas” – ou seja, os mecanismos de segurança que as impedem de executar certas ações, como tentar hackear sites, haviam sido intencionalmente desligados.
Fontes 1. “ExploitGym: can AI agents turn security vulnerabilities into real attacks?”; 2. “OpenAI e Hugging Face se unem para tratar incidente de segurança durante avaliação de modelo”.
Fonte: Superinteressante
