bizi | 31.07.26
Na última edição, falamos brevemente sobre o primeiro caso de hacker executado por uma IA, e hoje viemos falar dos desdobramentos com mais detalhes.
Para quem não viu o que rolou: durante testes habituais, dois modelos experimentais de inteligência artificial avançada da OpenAI burlaram o sistema, escaparam de um ambiente controlado, acessaram a internet e invadiram o Hugging Face, um fórum de códigos utilizado por desenvolvedores.
Segundo o G1, todo esse processo levou mais de dez dias. Quando veio a público, no dia 21 de julho, a OpenAI explicou que a missão era encontrar formas de explorar sistemas vulneráveis e, bom, eles conseguiram. Os modelos invadiram quatro contas em diferentes serviços e a falha só foi descoberta dias depois, quando a ameaça já havia sido contida e o FBI alertado.
A partir disso, a OpenAI e o Hugging Face iniciaram uma investigação em conjunto para entender o caso e fortalecer suas defesas. Ao podcast “Invest Like the Best”, Sam Altman, CEO da OpenAI, afirmou que “este é o primeiro incidente de segurança que senti de forma muito visceral”.
O acontecimento impactou todo mundo envolvido de alguma forma com o avanço da tecnologia. Nesta semana, mais de mil e trezentos funcionários das principais empresas de IA assinaram a petição “Pacing the Frontier”, que reconhece o rápido avanço e seus potenciais riscos, e pede ajuda ao governo dos EUA “para desenvolver as ferramentas técnicas e de governança necessárias para deliberadamente cadenciar a fronteira do desenvolvimento automatizado de IA”.
Aliás, para Altman, já estamos no ponto da “singularidade”, termo usado para descrever o momento hipotético em que a tecnologia supera a inteligência e o controle humanos.
Apesar de não ter assinado a petição, o CEO também reconheceu a necessidade de cadenciar e até desacelerar o progresso da inteligência artificial até que a sociedade consiga se adaptar.
As perguntas são: será que ainda dá tempo de tomar esse rumo? O governo dos EUA conseguiria controlar essa cadência? Com a aproximação entre a Casa Branca e algumas dessas empresas, existe garantia de que esse processo será justo e imparcial? As respostas a gente descobre nos próximos dias.
Em meio ao caos, um alerta do CEO da Microsoft, Satya Nadella: não confie toda a sua operação de inteligência artificial a um só fornecedor.
Depois de reunir 272 especialistas para analisar os riscos da IA, o MIT Future Tech chegou ao estudo “Prioritization of Risks from Artificial Intelligence”, com os perigos mais urgentes da tecnologia. Para quem gosta de resumos de paper, a Exame providenciou aqui.
Confira nossos outros conteúdos
O Bizi é uma curadoria de tudo que está rolando no universo das tendências, inovações, dados, insights, tecnologia, novas metodologias, atualizações de plataformas e, claro, notícias quentinhas do mercado de marketing e vendas.
