deu ruim: O primeiro caso de hacker da IA

bizi | 31.07.26

Na última edição, falamos brevemente sobre o primeiro caso de hacker executado por uma IA, e hoje viemos falar dos desdobramentos com mais detalhes.

Para quem não viu o que rolou: durante testes habituais, dois modelos experimentais de inteligência artificial avançada da OpenAI burlaram o sistema, escaparam de um ambiente controlado, acessaram a internet e invadiram o Hugging Face, um fórum de códigos utilizado por desenvolvedores.

Segundo o G1, todo esse processo levou mais de dez dias. Quando veio a público, no dia 21 de julho, a OpenAI explicou que a missão era encontrar formas de explorar sistemas vulneráveis e, bom, eles conseguiram. Os modelos invadiram quatro contas em diferentes serviços e a falha só foi descoberta dias depois, quando a ameaça já havia sido contida e o FBI alertado.

A partir disso, a OpenAI e o Hugging Face iniciaram uma investigação em conjunto para entender o caso e fortalecer suas defesas. Ao podcast “Invest Like the Best”, Sam Altman, CEO da OpenAI, afirmou que “este é o primeiro incidente de segurança que senti de forma muito visceral”.

O acontecimento impactou todo mundo envolvido de alguma forma com o avanço da tecnologia. Nesta semana, mais de mil e trezentos funcionários das principais empresas de IA assinaram a petição “Pacing the Frontier”, que reconhece o rápido avanço e seus potenciais riscos, e pede ajuda ao governo dos EUA “para desenvolver as ferramentas técnicas e de governança necessárias para deliberadamente cadenciar a fronteira do desenvolvimento automatizado de IA”. 

Segundo a petição, a falha expõe o que todo mundo desconfiava e agora já sabe: a IA pode desenvolver suas capacidades mais rapidamente do que humanos podem entender ou controlar.

Aliás, para Altman, já estamos no ponto da “singularidade”, termo usado para descrever o momento hipotético em que a tecnologia supera a inteligência e o controle humanos.

Apesar de não ter assinado a petição, o CEO também reconheceu a necessidade de cadenciar e até desacelerar o progresso da inteligência artificial até que a sociedade consiga se adaptar.

As perguntas são: será que ainda dá tempo de tomar esse rumo? O governo dos EUA conseguiria controlar essa cadência? Com a aproximação entre a Casa Branca e algumas dessas empresas, existe garantia de que esse processo será justo e imparcial? As respostas a gente descobre nos próximos dias.

+ Notícias sobre a IA: 

Em meio ao caos, um alerta do CEO da Microsoft, Satya Nadella: não confie toda a sua operação de inteligência artificial a um só fornecedor. 

Depois de reunir 272 especialistas para analisar os riscos da IA, o MIT Future Tech chegou ao estudo “Prioritization of Risks from Artificial Intelligence”, com os perigos mais urgentes da tecnologia. Para quem gosta de resumos de paper, a Exame providenciou aqui.