Isaque Victor cursos gratuitosQuando alguém de dentro de uma das empresas mais avançadas de IA do mundo pede demissão e diz publicamente que o setor está "apostando com as nossas vidas", a notícia corre. Foi o que aconteceu no começo de setembro. Eu li as reportagens com calma, e quero te contar o que foi dito de fato, o que é opinião, e o que isso muda para quem tem um negócio e está decidindo como usar IA.
O que aconteceu
Jacob Coxon passou os últimos três anos trabalhando em pesquisa de pré-treinamento de modelos, primeiro na OpenAI e depois na Anthropic [1]. Ele anunciou a saída em um post público e, antes disso, deixou uma mensagem para os colegas no Slack da empresa [2].
O centro do alerta é um só: segundo ele, as empresas estão "correndo direto para uma superinteligência capaz de se aperfeiçoar sozinha, apostando com as nossas vidas" [1]. Na mensagem aos colegas, ele escreveu que, sem mais cautela e cooperação, existe risco de a superinteligência causar a extinção humana [2].
O que ele pediu também importa: acordos de ritmo entre os laboratórios americanos e uma pausa temporária no aumento de capacidade dos modelos, até que a segurança acompanhe [1].
A repercussão foi enorme. A TIME registrou 153 milhões de visualizações dos posts em 36 horas [3]. Um colega dele na Anthropic, Evan Hubinger, que lidera uma equipe de alinhamento, disse publicamente que estima em mais de 10% a chance de a IA causar a extinção humana na próxima década [1][3]. Dias depois, o CEO da Anthropic, Dario Amodei, publicou um ensaio longo propondo uma desaceleração no desenvolvimento de IA [3].
Por que isso importa
Primeiro, o que isso não é: não é um vazamento, não é uma falha descoberta, não é um sistema fora de controle hoje. É a opinião pública de um pesquisador sobre um risco futuro, com base no que ele viu por dentro. Opinião de quem sabe do que fala merece atenção, mas não é fato consumado.
Segundo, o que isso é: mais um sinal de que a discussão sobre segurança saiu dos bastidores e entrou na mesa dos próprios criadores da tecnologia. Quando o CEO responde com um ensaio propondo ritmo mais lento [3], o assunto deixou de ser marginal.
Para o seu negócio, a lição é a mesma que eu repito há anos, agora dita por quem constrói os modelos: capacidade sem segurança é problema, não vantagem. A IA que você coloca na sua empresa precisa ter dono, limite e supervisão humana.
Para fechar
Se você quer entender o que é um modelo de IA e por que essa discussão existe, o curso gratuito de IA para Iniciantes explica a base em linguagem simples. E se está montando IA na sua empresa e quer fazer isso com limites claros, o time da IV Help conversa com você.
Na prática
O que isso muda para o seu negócio
- Faça: defina por escrito o que a IA pode e não pode fazer na sua operação (responder, sugerir, executar). Quem cria os modelos está pedindo limites [1]; você deve ter os seus.
- Evite: dar a um agente de IA acesso para agir sozinho em dinheiro, contrato ou dado de cliente sem uma pessoa aprovando. O risco que os pesquisadores descrevem é justamente o de sistemas agindo sem freio [2].
- Observe: como as grandes empresas vão responder na prática nas próximas semanas, além dos ensaios [3]. Fornecedor que fala de segurança só em texto de marketing, e não em prática, é sinal de alerta.
Fontes citadas
- 'Gambling with our lives': Anthropic researcher quits, warns against self-improving AITechCrunch · 09/09/2026
- An Anthropic safety researcher resigned with a warning about AI to co-workers on SlackNBC News · 09/09/2026
- OpenAI and Anthropic Researchers Are Warning About AI RisksTIME · 15/09/2026