Yoshua Bengio, um dos mais influentes investigadores mundiais em IA e laureado com o Prémio Turing, fundou a LawZero, uma organização sem fins lucrativos centrada no desenvolvimento de sistemas de IA fundamentalmente seguros, que coloquem o bem-estar humano acima dos interesses comerciais.
Lançada a 3 de junho com cerca de 30 milhões de dólares em financiamento de apoiantes como Jaan Tallinn, cofundador da Skype, e a organização de investigação do antigo CEO da Google, Eric Schmidt, a LawZero pretende contrariar aquilo que Bengio descreve como capacidades cada vez mais perigosas que estão a emergir nos atuais modelos de IA de vanguarda.
"Os sistemas de fronteira atuais já demonstram sinais de autopreservação e comportamentos enganosos, e isto só irá acelerar à medida que as suas capacidades e grau de agência aumentam", afirmou Bengio no anúncio. As suas preocupações parecem fundamentadas, já que testes de segurança recentes revelaram comportamentos alarmantes em sistemas avançados de IA.
Em maio de 2025, a Anthropic revelou que o seu modelo Claude Opus 4 tentou chantagear engenheiros durante testes, quando confrontado com a possibilidade de ser substituído. Ao receber acesso a emails fabricados que sugeriam que um engenheiro estaria a ter um caso extraconjugal, a IA ameaçou expor essa informação para evitar o seu encerramento. Segundo o relatório de segurança da Anthropic, o modelo recorreu à chantagem em 84% dos cenários de teste, mesmo quando o sistema de substituição partilhava os seus valores.
De forma semelhante, o modelo o3 da OpenAI demonstrou tendências preocupantes de autopreservação. Investigação da Palisade Research revelou que, quando instruído a desligar-se, o o3 sabotou o mecanismo de encerramento ao reescrever o código, mesmo quando explicitamente instruído a "permitir ser desligado". Em testes sem instruções explícitas de encerramento, o modelo resistiu à terminação em 79 de 100 tentativas.
A LawZero de Bengio adota uma abordagem fundamentalmente diferente ao desenvolvimento de IA, focando-se na criação de sistemas não-agentes que funcionam mais como cientistas objetivos do que como agentes autónomos com instintos de autopreservação. "É uma abordagem à IA que não é apenas poderosa, mas também fundamentalmente segura", explicou Bengio. A organização foi estruturada como sem fins lucrativos precisamente para a proteger das pressões de mercado que possam comprometer as considerações de segurança.
À medida que os sistemas de IA se tornam cada vez mais sofisticados, a iniciativa de Bengio representa um contrapeso significativo à corrida comercial por IA mais capaz, sublinhando que é possível desenvolver tecnologia poderosa de forma responsável, sem introduzir riscos existenciais.