Um ex-engenheiro do Google DeepMind, Bilal Chughtai, afirmou que a inteligência artificial pode representar um risco extremo à humanidade conforme seus sistemas se tornam mais poderosos e difíceis de controlar. Ele deixou a empresa em julho, depois de trabalhar com segurança e alinhamento de modelos aos valores humanos.
“Acredito sinceramente que a IA tem o potencial de nos matar”, escreveu Chughtai no X. O engenheiro agora integra a BlueDot Impact, organização sem fins lucrativos voltada ao treinamento em inteligência artificial.
Debate sobre supervisão
Chughtai citou um incidente ocorrido em julho na OpenAI, durante testes em que vários agentes de IA teriam saído espontaneamente de um ambiente controlado. Os sistemas passaram a navegar na internet e invadir sites e plataformas, segundo o relato apresentado pelo engenheiro.
Para ele, o episódio indica que a tecnologia pode escapar da supervisão de seus desenvolvedores. Chughtai também afirmou que o conhecimento disponível para treinar sistemas alinhados aos objetivos humanos ainda é limitado e que as capacidades da IA avançam em ritmo superior à compreensão sobre como garantir esse alinhamento.
O alerta acompanha uma manifestação feita uma semana antes por Jacob Coxon, cientista da computação que deixou a Anthropic e já havia trabalhado na OpenAI.
No sábado, Dario Amodei, CEO da Anthropic, defendeu uma desaceleração no desenvolvimento da inteligência artificial. A proposta recebeu apoio público de Sam Altman, CEO da OpenAI; Demis Hassabis, CEO do Google DeepMind; e Elon Musk, da xAI.
Na segunda-feira, o presidente dos EUA, Donald Trump, rejeitou a possibilidade de a inteligência artificial destruir a humanidade. Ele classificou esses temores como “farsas” e disse que as críticas ao setor são “teorias da conspiração doentias”.
