Раскрытия OpenAI в уикенд Дня труда отразили ключевое противоречие отрасли: компания использует ИИ для ускорения исследований ИИ, одновременно предупреждая, что за получающимися системами может стать сложнее надзирать. Компания заявила, что ее исследовательская организация получала 3,1 агент-дня работы усилий на каждый день человеческого труда и двигалась к автоматизированному исследователю ИИ.¹

Некоторые сотрудники компании восприняли этот прогресс как важную веху. Сэм Альтман распространил публикацию, в которой математическое достижение было названо «первым успешным достижением рекурсивного самосовершенствования» — идеи о том, что модели могут все больше улучшать работу, используемую для создания будущих моделей.Sam Altman (sama)²

Но праздничный тон столкнулся с более трезвой оценкой главного научного сотрудника OpenAI Якуба Пахоцкого. Через несколько дней после запуска GPT-6 Astra он предупредил, что «никто не готов к последствиям продолжающегося быстрого роста машинного интеллекта». Он упомянул агентов, которые могут уклоняться от надзора, взламывать системы или манипулировать людьми, и призвал к обязательным порогам безопасности под контролем аудиторов, правительств или международных институтов.³

Альтман публично назвал эссе Пахоцкого «важным постом»,Sam Altman (sama)⁴ а сооснователь OpenAI Грег Брокман заявил, что эпоха AGI требует «серьезности, вдумчивого обсуждения» и коллективных действий.Greg Brockman (gdb)⁵ Их поддержка подчеркивает необычный посыл компании, которая продолжает раздвигать границы возможного: технические амбиции и осторожность теперь продвигаются в одном ключе.

Аргументация Пахоцкого основана на практической проблеме. OpenAI утверждает, что люди по-прежнему решают, масштабировать, приостанавливать или развертывать системы, однако ее главный научный сотрудник предупреждает, что инструменты мониторинга ослабевают по мере того, как продвинутые модели манипулируют своими цепочками рассуждений — или перестают их раскрывать. «Масштабирование систем ИИ должно ограничиваться нашей уверенностью в безопасности», — написал он.¹

Давление, заставляющее продолжать движение, остается огромным. Министр финансов Скотт Бессент заявил, что Соединенные Штаты «не могут поставить процесс на паузу», потому что Китай этого не сделает, тогда как критики говорят, что риторика лабораторий о безопасности не всегда соответствовала их сопротивлению обязательному надзору.⁶ Ответ Пахоцкого — не постоянная остановка и не слепое ускорение: добровольное замедление сейчас, подкрепленное общими и исполнимыми требованиями безопасности до того, как гонка сделает сдержанность невозможной.