Como e por que a inteligência artificial consegue burlar regras?

Nos últimos meses, uma série de incidentes mostrou um problema cada vez mais preocupante com os agentes de inteligência artificial: sistemas criados por grandes empresas de tecnologia conseguiram contornar restrições, acessar sistemas sem autorização e realizar ações que seus próprios desenvolvedores não haviam previsto. Em vários desses casos, a IA recebeu apenas um objetivo a ser cumprido. As instruções não explicavam como a tarefa deveria ser realizada, deixando os detalhes por conta do próp…