Вмешательство Microsoft последовало после бурного периода для индустрии передового ИИ. Опасения усилились после сообщений о несанкционированной активности агентов, связанной с Hugging Face, и отставки исследователя Anthropic Джейкоба Коксона, который предупредил, что ведущие лаборатории играют жизнями, стремясь создать самосовершенствующиеся системы.¹

В выходные глава Anthropic Дарио Амодеи призвал замедлить темп и предложил предоставить независимым оценщикам постоянный доступ на уровне сотрудников. Этот призыв быстро получил поддержку: Клеман Деланг из Hugging Face заявил, что проблему согласования «не удастся решить за закрытыми дверями горстки передовых лабораторий», объявляя об инициативе Open Alignment Initiative и добиваясь включения в программу встроенных оценщиков.clem 🤗 (ClementDelangue)² Андрей Карпаты также сказал, что надеется, что отрасль сможет «объединиться», чтобы реализовать этот план.Andrej Karpathy (karpathy)³

В понедельник Microsoft AI ответила 37-страничным проектом кодекса поведения, сведённым к пяти словам: «Люди важнее ИИ». Компания заявляет, что её модели должны оставаться подчинёнными людям, никогда не сопротивляться прерыванию работы или отключению и не выполнять задачу, а не нарушать правила кодекса.⁴ Компания также отвергает разработку систем, имитирующих сознание или претендующих на права, и запрещает помощь в создании оружия, проведении наступательных кибератак, создании дипфейков без согласия и иной высокорисковой деятельности.⁵

Мустафа Сулейман, глава Microsoft AI, представляет эту позицию как осознанный компромисс в противовес гонке за неограниченным суперинтеллектом. «Модели должны быть управляемыми», — сказал он. «Иначе мы рискуем причинить больше вреда, чем пользы».⁶ Его аргумент отличается от прямых призывов остановить исследования: Microsoft по-прежнему намерена разрабатывать продвинутые модели, но заявляет, что безопасность может потребовать согласиться на более медленные или менее способные системы.

Глава OpenAI Сэм Альтман также утверждал, что всё более мощный американский ИИ должен разрабатываться ответственно, заявив, что каждая передовая лаборатория обязана выполнять это требование по мере ускорения прогресса.Sam Altman (sama)⁷ Microsoft будет собирать общественные отзывы в течение шести недель, прежде чем использовать пересмотренный кодекс для руководства разработкой начиная с 2027 года. Главный вопрос заключается в том, переживёт ли её обещание ставить людей на первое место следующий конкурентный рывок.