История
сентябрь 18, 2026
Король Карл предупреждает лидеров ИИ: сохраните контроль, пока не стало слишком поздно
Король Карл представил ИИ одновременно как огромную возможность и испытание человеческого контроля, призвав его создателей поставить безопасность во главу угла. Его вмешательство происходит на фоне углубляющегося раскола: одни технологические лидеры хотят скоординированного замедления, тогда как другие утверждают, что стратегическая гонка этого не позволяет.
Спор обострился за несколько недель до встречи в четверг в Дамфрис-хаусе в Эйршире. Генеральный директор Anthropic Дарио Амодеи призвал к скоординированному замедлению работ над передовым ИИ, предупредив, что дальнейший прогресс может привести к катастрофе; сообщалось, что Сэм Альтман из OpenAI, Демис Хассабис из Google DeepMind и Илон Маск разделяют позицию о необходимости более медленного темпа и более строгого надзора.1
Однако этот консенсус был далеко не всеобщим. Президент Дональд Трамп, глава Nvidia Дженсен Хуанг и Марк Цукерберг из Meta выступали против дальнейшего регулирования, представляя ИИ как геополитическое соперничество, в котором Соединённые Штаты должны сохранить лидерство. Трамп выразился предельно прямо: «Кто победит в ИИ, тот победит».2
На этом фоне Карл собрал представителей Nvidia, Google DeepMind, OpenAI и Anthropic, а также британского министра по вопросам ИИ Канишку Нараяна и других экспертов. Во дворце заявили, что от встречи не ожидали обязательных соглашений; скорее, она была призвана проверить, смогут ли общие принципы направить ИИ на благо общества.3
В своей речи король признал потенциал технологии в медицине и науке, но предупредил, что её создатели всё чаще говорят о более мрачных возможностях. «Несомненно, нам нужны достаточные средства контроля, прежде чем всё станет слишком поздно?» — сказал он.4 Его более широкое требование заключалось в том, чтобы ИИ оставался «твёрдо на службе человечества, общества и природного мира».1
Эта формулировка перекликалась с практическим, менее категоричным подходом к безопасности, звучавшим в Кремниевой долине. Глава Microsoft Сатья Наделла заявил, что предстоящая работа предполагает широкое распространение преимуществ ИИ, получение «разрешения от сообществ» и обеспечение «безопасности и контроля ИИ».
5 Маск ответил просто: «Правда».
6
Саммит Карла не разрешил спор о замедлении. Но он свёл в одной комнате главное противоречие: как воспользоваться преимуществами ИИ, не уступив человеческий контроль, который должен им управлять.