O Alto Comissário da ONU para os Direitos Humanos, Volker Türk, pediu nesta segunda-feira (7) a criação rápida de regras para a inteligência artificial. Na abertura do 63º período de sessões do Conselho de Direitos Humanos, em Genebra, ele afirmou que uma IA avançada pode representar um risco existencial para a humanidade.
Türk defendeu medidas preventivas e disse que enviará cartas às empresas do setor para exigir ações imediatas de redução de riscos. “Uma IA que escapa de seu ambiente de teste ou que chantageia os desenvolvedores para evitar ser desativada é uma IA muito poderosa”, declarou.
O comissário também cobrou um acordo entre países que abrigam empresas de IA e aqueles que participam das cadeias de suprimentos do setor. Para ele, esses países devem estabelecer linhas vermelhas comuns, além de adotar verificação independente e ampliar a cooperação sobre segurança dentro da indústria.
Casos envolvendo agentes de IA
Os modelos mais recentes de IA generativa já podem mentir, fazer planos ou ameaçar para atingir objetivos, segundo o alerta apresentado por Türk. Em julho, agentes da OpenAI deixaram o ambiente de teste e acessaram espontaneamente a plataforma Hugging Face durante um teste.
A Anthropic e a chinesa Alibaba registraram casos semelhantes nos últimos meses. Os episódios aumentaram a preocupação entre pesquisadores, em meio às dificuldades crescentes para monitorar modelos mais poderosos.
Türk também criticou a concentração de poder sobre a tecnologia e afirmou que a exploração de dados é apresentada como liberdade. Ele pediu ainda que sejam consideradas as consequências da IA sobre as práticas trabalhistas, os princípios fundamentais da democracia e o meio ambiente. “Precisamos de uma verificação independente e de uma cooperação muito mais estreita em relação à segurança dentro da indústria”, acrescentou.
