David Robinson, que liderava os esforços de transparência em segurança na OpenAI, pediu demissão na semana passada após concluir que a empresa não tinha a cultura de segurança necessária para os sistemas que está desenvolvendo.¹ Em sua primeira entrevista desde que saiu, ele descreveu uma mudança do ceticismo inicial sobre riscos catastróficos da IA para a convicção de que as salvaguardas do setor não estão acompanhando o ritmo.

O conflito se intensificou durante o verão. Em julho, centenas de funcionários da OpenAI assinaram a carta “Pacing the Frontier”, pedindo ação governamental para desacelerar o desenvolvimento de IA. Em setembro, o diretor-executivo Sam Altman endossou publicamente a necessidade de “acompanhar o ritmo da fronteira”, alinhando-se aos apelos para que as empresas coordenassem uma desaceleração.²

Mas Robinson disse a Ezra Klein que a visão interna era nitidamente diferente. “Parte do que foi a dissonância cognitiva fundamental para mim era que continuamos publicando esses alertas, mas, no fim das contas, ainda estamos treinando e implantando esses modelos perigosos sobre os quais estamos alertando.”² Ele retratou o ambiente de trabalho como “frenético”, com funcionários “no limite” enquanto as equipes avançavam em alta velocidade.²

Esse relato contrasta desconfortavelmente com os próprios alertas dos pesquisadores da OpenAI. Em setembro, o cientista-chefe Jakub Pachocki escreveu que a autoaperfeiçoamento recursivo — sistemas de IA ajudando a criar uma IA melhor — era “um momento que exige extrema cautela”.²

A resposta da OpenAI é que a cautela não é meramente retórica. Um porta-voz disse que a empresa continua a reforçar as práticas de segurança e proteção, está se preparando para riscos futuros e está “garantindo que nossos modelos não se tornem mais capazes do que podemos gerenciar e proteger com segurança”. O porta-voz acrescentou que a OpenAI pausa o treinamento ou retém modelos quando precisa desacelerar.²

A crítica de Robinson, portanto, não é que a OpenAI ignore o perigo. É que os próprios alertas da empresa ainda não alteraram o imperativo subjacente de desenvolver e implantar rapidamente — a lacuna que acabou convencendo um de seus líderes de segurança a ir embora.