История
сентябрь 19, 2026
Король Карл призвал титанов ИИ найти тормоза, пока не стало слишком поздно
Король Карл представил ИИ как проверку того, может ли технологическая мощь оставаться подотчётной людям, тогда как отрасль по-прежнему разделена между теми, кто добивается коллективной сдержанности, и теми, кто утверждает, что безопасностью можно управлять без замедления гонки.
Спор уже обострился к моменту прибытия руководителей в Дамфрис-хаус в Эйршире. После того как исследователь Anthropic Джейкоб Коксон ушёл в отставку, предупредив о направлении развития отрасли, глава Anthropic Дарио Амодеи призвал намеренно замедлить развитие передовых систем — позицию, публично поддержанную Сэмом Альтманом из OpenAI, Демисом Хассабисом из Google DeepMind и Илоном Маском.1
Генеральный директор Microsoft Сатья Наделла высказался менее масштабно, но в схожем ключе, заявив, что преимущества ИИ должны быть широко доступными, а компании должны заручаться согласием сообществ и обеспечивать «безопасность и контроль ИИ». Маск усилил этот посыл одобрением из одного слова: «Верно».
2
3
В четверг Карл напрямую обратился с этим спором к руководителям Nvidia, OpenAI, Anthropic и Google DeepMind, а также к британским чиновникам. Король назвал развитие ИИ и его темпы «в равной степени интригующими и глубоко тревожными» и предупредил, что люди ищут уверенности в том, что человечество не «утратит контроль над своей судьбой».4
Его позиция не была направлена против технологий. Карл признал способность ИИ улучшать и спасать жизни, особенно в медицине и науке, однако заявил, что сами его создатели всё чаще предупреждают о более мрачных возможностях. «Несомненно, нам нужны достаточные средства контроля, пока не стало слишком поздно?» — спросил он, призывая группу к международному сотрудничеству и принципам, которые сохранят технологии на службе человечества и природного мира.5
Саммит не принёс обязательного соглашения — и показал, почему достичь его может быть трудно. Президент Дональд Трамп отверг замедление, представив лидерство в сфере ИИ как стратегическое соперничество с Китаем. Тем временем глава Nvidia Дженсен Хуанг выступил против скоординированной паузы: компании должны тестировать собственные системы и не выпускать небезопасные продукты. «Когда продукт недостаточно безопасен, мы должны удержать его и продолжать инженерную работу», — сказал Хуанг.1
Таким образом, призыв Карла остаётся между двумя концепциями: общими международными тормозами или гонкой, которую контролируют компании, сильнее всех жмущие на акселератор.