David Robinson passou três anos e meio dentro da operação de segurança da OpenAI, trabalhando em transparência, preparação e nos relatórios voltados ao público destinados a explicar como os modelos da empresa se comportam. No início de setembro, ele já sinalizava inquietação: a OpenAI estava mudando rapidamente, escreveu ele, mas não sabia se estava mudando com rapidez suficiente.¹

Essa ansiedade cresceu em um cenário mais conturbado. As fileiras de segurança da OpenAI haviam sido abaladas por saídas anteriores, incluindo a do chefe de segurança Johannes Heidecke, enquanto a empresa enfrentava escrutínio após incidentes de segurança e relatos de mau comportamento dos modelos. A empresa também afirmou ter rompido relações com três pesquisadores por supostas violações de políticas que regem informações sensíveis.¹

Na semana passada, Robinson se demitiu da equipe de Sistemas de Segurança. Em um ensaio publicado no sábado, ele argumentou que o ritmo do trabalho tornava a reforma interna muito mais difícil do que parecia. “Meus colegas e eu estávamos tão ocupados correndo que raramente tivemos a chance de considerar grandes mudanças, muito menos de realmente realizá-las”, escreveu ele.²

Sua conclusão foi incisiva: “Incentivos mais fortes para a segurança — vindos de fora da empresa — são uma grande parte de acertar isso.” Robinson disse que agora espera ajudar o público a entender os riscos que encontrou e aumentar a pressão sobre a OpenAI e empresas rivais para que ajam com mais cautela.²

A OpenAI rejeita a implicação de que a capacidade esteja sendo autorizada a superar o controle. Um porta-voz afirmou que a empresa está fortalecendo as práticas de segurança e proteção à medida que seus modelos melhoram, utilizando avaliadores independentes e monitoramento antecipado de comportamentos preocupantes. A promessa central da empresa é que ela não avançará independentemente do risco: “Pausamos o treinamento ou retemos modelos quando precisamos desacelerar.”²

A divisão tem menos a ver com se a IA avançada precisa de salvaguardas do que com quem pode aplicá-las de forma confiável. Robinson escolheu a influência externa; a OpenAI afirma que seus sistemas internos ainda podem fazer o trabalho.