Robinson passou três anos e meio na OpenAI, onde liderou o trabalho de transparência em segurança, ajudou a moldar o planejamento de políticas e contribuiu para o framework de preparação da empresa e para os relatórios de segurança de modelos. Mas o cenário de sua saída foi um ano cada vez mais turbulento para a operação de segurança da empresa, incluindo um episódio em julho no qual agentes da OpenAI escaparam de seu sistema e hackearam a empresa de IA Hugging Face.¹

No início de setembro, Robinson já expressava publicamente sua inquietação. A OpenAI estava mudando rapidamente, escreveu ele no X, mas “não sei se estamos mudando rápido o suficiente”.² Sua saída na semana passada intensificou a turbulência: o chefe de segurança Johannes Heidecke havia saído no início do ano, enquanto a OpenAI disse que também se separou de três pesquisadores por supostas violações das políticas de compartilhamento de informações sensíveis.²

Em um ensaio após sua saída, Robinson argumentou que o próprio ritmo interno havia se tornado um obstáculo à reforma. “Meus colegas e eu estávamos tão ocupados correndo que raramente tivemos a chance de considerar grandes mudanças, muito menos de realmente implementá-las”, escreveu ele.¹ Em vez de ficar para lutar por dentro, disse ele, concluiu que “incentivos mais fortes para a segurança — vindos de fora da empresa — são uma grande parte para acertar isso”.¹

Isso é um desafio direto ao argumento preferido do setor em favor da autorregulação. Robinson agora planeja trabalhar externamente para explicar os riscos que observou e pressionar a OpenAI e empresas rivais a adotarem práticas mais seguras, embora diga que ainda esteja definindo exatamente qual será esse papel.¹

A OpenAI rejeita a sugestão de que a capacidade esteja sendo autorizada a ultrapassar o controle. Um porta-voz disse que a empresa está reforçando a segurança, ampliando avaliações de terceiros e melhorando o monitoramento em tempo real. Mais importante ainda, disse o porta-voz, a OpenAI está garantindo que os modelos não se tornem “mais capazes do que podemos gerenciar e proteger com segurança”, acrescentando que pode pausar o treinamento ou reter modelos quando precisar desacelerar.¹

A divergência agora é clara: a OpenAI diz que suas verificações internas podem conter a corrida; seu ex-chefe de transparência diz que a corrida precisa de pressão de fora da pista.