CONNECT
A saída de um pesquisador da Anthropic transformou preocupações internas sobre segurança em um alerta público: a corrida por uma inteligência artificial capaz de se aprimorar pode avançar mais rápido do que os mecanismos para controlá-la.
O que aconteceu
Jacob Coxon, pesquisador britânico de 27 anos que já havia trabalhado na OpenAI, deixou a Anthropic e afirmou que a corrida sem controle para criar uma superinteligência capaz de se aprimorar poderia destruir a humanidade até o fim da década. Evan Hubinger, colega de Coxon e responsável por ciência de alinhamento na Anthropic, apoiou a advertência. Ele estimou que a probabilidade de extinção em massa na próxima década supera 10% e disse que a empresa ainda não tem um plano para resolver o alinhamento da superinteligência nem está claramente no caminho para isso. A saída foi noticiada primeiro pelo Wall Street Journal. Anthropic não comentou, e a OpenAI não respondeu imediatamente aos pedidos do FT.
Por que isso importa
O episódio expõe uma tensão central da indústria: as mesmas empresas que aceleram o desenvolvimento de modelos avançados reconhecem riscos que permanecem sem solução clara. Alinhamento é o esforço para fazer sistemas de IA se comportarem de acordo com intenções e valores humanos. Hubinger diferenciou esse risco futuro das ameaças dos modelos atuais, que classificou como baixas. Ainda assim, a divergência pública entre pesquisadores pode pressionar laboratórios a explicar melhor seus critérios de segurança, governança e lançamento.
O que deve ser observado
O ponto principal será observar se outras saídas ou declarações de funcionários transformam a preocupação em pressão organizada por uma pausa nas pesquisas. Steven Adler, ex-pesquisador de segurança da OpenAI e cofundador da Guidelight AI Standards, disse ao FT que os alertas internos reforçam esse argumento e que nenhuma empresa está perto de uma postura de segurança compatível com os perigos de sua pesquisa.
A notícia não oferece um indicador de mercado nem uma recomendação de investimento, mas revela um risco estratégico para o setor de IA: a confiança na governança pode se tornar tão relevante quanto o desempenho dos modelos. A saída de Coxon também mostra que o debate não está restrito a críticos externos. Para empresas e investidores, a questão factual a acompanhar é se compromissos de segurança serão acompanhados por planos verificáveis antes de novos saltos de capacidade.
