История
октябрь 6, 2026
Слушания по ИИ в Нью-Йорке выявили пробел в безопасности, пока информаторы предупреждают: гонка уже началась
Чиновники Нью-Йорка утверждают, что влиятельные компании в сфере ИИ обязаны давать общественности ясные и подотчетные ответы о катастрофических рисках, тогда как бывшие инсайдеры говорят, что гонка индустрии за созданием все более способных систем обогнала ее культуру безопасности. Представители компаний настаивают, что недопустимые риски не следует терпеть, но затруднились объяснить, как эти риски измеряются или сдерживаются.
Противостояние назревало неделями. По мере усиления внимания к передовым лабораториям ИИ спикер Городского совета Джули Менин созвала редкое слушание Комитета полного состава и потребовала, чтобы Anthropic, OpenAI, Google и Meta под присягой ответили на вопросы об опасностях, которые могут представлять их системы. По данным офиса Менин, три компании согласились лишь после того, как Совет пригрозил им повестками.1
В понедельник слушания выявили разрыв между требованием Совета о конкретных мерах безопасности и сдержанными заверениями индустрии. Менин спросила руководителей, как они количественно оценивают риск ИИ в наихудшем катастрофическом сценарии. Руководитель отдела политики OpenAI Морган Дуайер ответила: «Я не знаю», добавив, что неважно, составляет ли вероятность 1%, 10% или 20%, поскольку никакой такой уровень риска неприемлем.2
Менин это не убедило. «Сказать, что вы не знаете и что это не имеет значения, — в лучшем случае легкомысленно», — заявила она после того, как Дуайер сказала, что OpenAI не должна обучать модели, которые невозможно безопасно удерживать под контролем человека.2 Компании не дали четких ответов на вопросы о том, могут ли они остановить модель, не прошедшую проверку безопасности, застраховаться от катастрофы или количественно оценить ее вероятность.2
Бывшие сотрудники описали проблему еще резче. Джейкоб Коксон, покинувший Anthropic, заявил членам совета, что принцип сектора «двигайся быстро и ломай вещи» может подходить для приложения для обмена фотографиями, но не для «самой мощной из когда-либо созданных технологий».3 Он выступил вместе с бывшими сотрудниками Google и OpenAI, требующими более строгого надзора.
Самый резкий политический упрек прозвучал от общественного адвоката Джумана Д. Уильямса, который назвал ответ Дуайер «ужасным, фантастически отвратительным ответом».3 По итогам слушаний обе стороны сошлись в одном абстрактном пункте — катастрофический риск неприемлем, — но разошлись во мнениях о том, способны ли компании доказать, что их стремительно развивающиеся системы действительно находятся под контролем.