A intervenção da Microsoft ocorreu após um período turbulento para o setor de IA de fronteira. As preocupações se intensificaram após relatos de atividade de agentes autônomos envolvendo o Hugging Face e a renúncia do pesquisador da Anthropic Jacob Coxon, que alertou que os principais laboratórios estavam jogando com vidas enquanto corriam em direção a sistemas de autoaperfeiçoamento.¹

Durante o fim de semana, o chefe da Anthropic, Dario Amodei, pediu um ritmo mais lento e propôs acesso permanente, em nível de funcionário, para avaliadores independentes. Esse apelo rapidamente recebeu apoio: Clément Delangue, do Hugging Face, disse que o alinhamento “não será resolvido a portas fechadas por um punhado de laboratórios de fronteira” ao anunciar uma Iniciativa de Alinhamento Aberto e buscar inclusão no programa de avaliadores integrados.clem 🤗 (ClementDelangue)² Andrej Karpathy também disse esperar que o setor pudesse “se unir” para tornar o plano realidade.Andrej Karpathy (karpathy)³

Na segunda-feira, a Microsoft AI respondeu com um projeto de código de conduta de 37 páginas, resumido em cinco palavras: “As pessoas importam mais do que a IA.” A empresa afirma que seus modelos devem permanecer subordinados às pessoas, nunca resistir à interrupção ou ao desligamento, e falhar em uma tarefa em vez de violar as regras do código.⁴ Também rejeita projetar sistemas para imitar a consciência ou reivindicar direitos e proíbe assistência com armas, ciberataques ofensivos, deepfakes sem consentimento e outras atividades de alto risco.⁵

Mustafa Suleyman, chefe da Microsoft AI, apresenta essa posição como uma escolha deliberada em contraposição à corrida pela superinteligência sem restrições. “Os modelos têm de ser controláveis”, disse ele. “Caso contrário, corremos o risco de causar mais danos do que benefícios.”⁶ Seu argumento difere dos apelos diretos para interromper a pesquisa: a Microsoft ainda pretende buscar modelos avançados, mas afirma que a segurança pode exigir aceitar sistemas mais lentos ou menos capazes.

O chefe da OpenAI, Sam Altman, também argumentou que uma IA americana cada vez mais capaz deve ser desenvolvida de forma responsável, dizendo que todo laboratório de fronteira deve cumprir essa obrigação à medida que o progresso se acelera.Sam Altman (sama)⁷ A Microsoft buscará feedback público por seis semanas antes de usar um código revisado para orientar o desenvolvimento a partir de 2027. A questão difícil é se seu compromisso de colocar os humanos em primeiro lugar sobreviverá à próxima corrida competitiva.