A renúncia de David Robinson ocorreu em meio a um período já conturbado para a operação de segurança da OpenAI. Ex-líder de sua equipe de Sistemas de Segurança, que trabalhou com transparência e cartões de sistema de modelos, ele saiu na semana passada enquanto aumentava o escrutínio sobre quadro de funcionários, incidentes de segurança e se a empresa estava avançando com rapidez suficiente para conter os riscos de uma IA cada vez mais capaz.¹

Robinson passou três anos e meio na OpenAI, supervisionando partes de sua estrutura de preparação e de seus relatórios de segurança. Em seu posterior ensaio na Atlantic, ele descreveu um ambiente de trabalho preso a um movimento incessante: “meus colegas e eu estávamos tão ocupados correndo que raramente tínhamos a chance de considerar grandes mudanças.”² Sua conclusão não foi que o trabalho de segurança dentro do laboratório seja inútil, mas que ele é insuficiente sem influência externa. “Incentivos mais fortes para a segurança — vindos de fora da empresa — são uma grande parte de acertar nisso”, escreveu ele.²

A OpenAI apresentou uma versão bastante diferente de sua postura. Um porta-voz disse que a empresa trabalhava para garantir que as capacidades dos modelos não ultrapassassem seus controles, acrescentando que “pausará o treinamento ou reterá modelos quando precisarmos desacelerar.” A empresa também apontou para segurança mais rigorosa, avaliação por terceiros e monitoramento mais precoce de comportamentos preocupantes.²

A disputa é maior do que uma única renúncia. Robinson se junta a um fluxo crescente de saídas com foco em segurança de empresas líderes em IA, cujos ex-funcionários argumentam que a “confiança extrema” e as “corridas perpétuas” do Vale do Silício são inadequadas para sistemas com consequências potencialmente graves. A recomendação deles se aproxima mais de usinas nucleares ou aeroportos movimentados: redundância, planejamento e humildade, em vez de otimismo apenas.³

Para Robinson, o próximo passo continua indefinido. Mas sua mensagem é clara: a disputa sobre salvaguardas de IA pode agora ser travada tanto por pressão pública e instituições externas quanto pelas empresas que constroem os modelos.²