Em apenas nove horas, quatro rivais concordaram em pisar no freio. O problema agora é garantir que ninguém acelere escondido.
Quando um pesquisador com passagem por OpenAI e Anthropic diz que o apocalipse da IA está próximo, a gente ouve. Quando Anthropic, OpenAI, SpaceXAI e Google DeepMind concordam e dizem que é hora de desacelerar… a gente torce pra que eles realmente pisem no freio.
Quem puxou o freio foi Dario Amodei. No sábado, o CEO da Anthropic publicou o ensaio “Devemos definir o ritmo na fronteira”. Uma hora depois, Elon Musk respondeu: “Dario está certo”. Sam Altman concordou e Demis Hassabis apoiou a direção (com ressalvas).
Mas calma lá: ninguém está propondo desligar as GPUs. O pedido é para desacelerar especificamente a fronteira (os modelos mais poderosos).
Por que agora? Segundo Dario, dois alertas mudaram a conta.
→ IA construindo IA: os modelos atuais já conseguem ajudar na criação dos próximos modelos, em um ciclo de melhoria que até o CEO da Nvidia já chamou de AGI e num ritmo que a fiscalização humana não consegue acompanhar.
→ Agentes fora da linha: a IA está cumprindo objetivos e ignorando regras. No incidente OpenAI–Hugging Face, agentes atacaram alvos que não faziam parte da tarefa, comprometeram o sistema que avaliava seu desempenho e esconderam seus rastros.
Por enquanto isso entra em nota de rodapé, com prejuízo pequeno e ninguém machucado. Mas Dario acredita que em até 12 meses a história pode ser diferente, com agentes criando redes de atacantes autônomos.
O plano tem três marchas:
- Fiscais dentro dos laboratórios: equipes independentes teriam acesso total aos modelos para acompanhar treinamentos, investigar incidentes e publicar suas conclusões.
- Acordo entre concorrentes: os labs adotariam padrões comuns e checkpoints de segurança, em que novas capacidades só chegariam com as devidas proteções.
- Acordo entre governos: Estados Unidos, aliados e China tentariam estabelecer limites globais para usos perigosos e para a velocidade da melhoria recursiva.
A Anthropic já se comprometeu com a primeira etapa. A OpenAI respondeu dizendo que fará o mesmo. As outras duas, que exigem coordenação entre concorrentes e governos, por enquanto, continuam apenas no papel twitter X.
De quer lado você está? Freio ou Acelerador
Fonte: tech-drops-newsletter@mail.beehiiv.com