A mais recente rutura em matéria de segurança começou com alarme dentro dos laboratórios de fronteira. O investigador da Anthropic Jacob Coxon demitiu-se depois de alertar que as empresas estavam numa corrida rumo à superinteligência autoaperfeiçoável e estavam a “jogar com as nossas vidas”; pouco depois, o diretor da Anthropic, Dario Amodei, pediu um ritmo mais lento e acesso permanente para avaliadores externos. ¹

A proposta atraiu um raro nível de apoio da indústria. Sam Altman, da OpenAI, afirmou que os criadores de IA cada vez mais capazes devem dar ao público confiança de que agirão de forma responsável, à medida que a trajetória do progresso se torna mais íngreme. Sam Altman (sama)² O diretor-executivo da Hugging Face, Clément Delangue, foi mais longe, argumentando que o alinhamento “não será resolvido atrás das portas fechadas de um punhado de laboratórios de fronteira”, ao mesmo tempo que disponibilizava a sua Open Alignment Initiative para o modelo de avaliadores integrados. clem 🤗 (ClementDelangue)³ Yann LeCun, por sua vez, amplificou uma crítica mais incisiva: quem acredita que o risco existencial é real deve trabalhar abertamente e documentar tudo. Yann LeCun (ylecun)⁴

Nesse contexto, a Microsoft publicou na segunda-feira o seu projeto de código de 37 páginas, “Humanist AI”. O seu acordo central é invulgarmente direto: “As pessoas importam mais do que a IA.” A empresa afirma que os seus modelos devem permanecer subordinados às pessoas, nunca resistir a interrupções ou ao desligamento, e falhar uma tarefa em vez de violar o código. Também proíbe os sistemas de perseguirem os seus próprios objetivos, ocultarem má conduta, ajudarem com armas ou ciberataques ofensivos, ou imitarem a consciência. ⁵

Mustafa Suleyman, que dirige a Microsoft AI, aceita que isso possa custar velocidade e capacidade à empresa. “Os modelos têm de ser controláveis”, afirmou. “Caso contrário, corremos o risco de causar mais danos do que benefícios.” ⁶ Trata-se de uma posição consequente para uma empresa que ainda tenta reduzir a diferença entre os seus modelos e os dos rivais — e que deixa as suas salvaguardas voluntárias perante o próprio desafio de credibilidade levantado pelos críticos.

O CEO da Microsoft, Satya Nadella, formulou a linha vermelha de forma ainda mais clara: não vale a pena perseguir a superinteligência, a menos que ela ajude a humanidade e permaneça sob controlo humano. Satya Nadella (satyanadella)⁷ A empresa recolherá comentários públicos durante seis semanas antes de usar um código revisto para orientar o desenvolvimento de modelos a partir de 2027. ⁸