Google DeepMind разворачивает масштабную программу по биоустойчивости, опирающуюся на те же мощные модели ИИ, которые, по словам критиков, могут усиливать биологические риски, делая ставку на то, что более жесткие защитные механизмы и партнерства с правительствами помогут удержать технологию по правильную сторону черты.

Ранний курс на стандарты и безопасность

В дни, предшествовавшие запуску, генеральный директор DeepMind Демис Хассабис призвал создать поддерживаемый правительством орган по выработке стандартов для передового ИИ, выступив за более «систематический» регуляторный подход, финансируемый индустрией и укомплектованный техническими экспертами.¹ Эта повестка задала фон для объявления в четверг о новой программе по биоустойчивости, нацеленной на помощь правительствам и исследователям в предотвращении, обнаружении и реагировании на биологические угрозы.¹

Google DeepMind публично охарактеризовала контекст биобезопасности как «быстро меняющийся», указав на изменяющиеся экосистемы, глобальные путешествия и потенциальное злоупотребление ИИ как на факторы новых рисков.² В социальных сетях Хассабис усилил посыл компании о том, что она «разворачивает передовой ИИ для создания проактивной защиты глобального здоровья».Demis Hassabis (demishassabis)³

Формирование биоустойчивости с помощью ИИ

Инициатива, запущенная совместно с Isomorphic Labs, закрепляет двойную стратегию: предотвращать злоупотребление моделями и одновременно давать экспертам возможность использовать их для защиты.² За последние 12 месяцев, по словам DeepMind, компания создала более 15 партнерств с правительствами, организациями в области биобезопасности и исследовательскими группами, чтобы быстрее выявлять вспышки заболеваний и эффективнее на них реагировать.¹

DeepMind подчеркивает такие прорывы, как AlphaFold, который смоделировал 3D-структуры почти всех известных белков, и Drug Design Engine компании Isomorphic Labs как инструменты, которые могут «ускорить открытие терапевтических средств» и обеспечить проактивную защиту.²

Человеческий контроль и пороги риска

Со стороны человеческого управления руководители DeepMind подчеркивают, что расширенный доступ к их моделям будет ограничен «доверенными исследователями, правительствами и партнерами по биобезопасности» в рамках того, что компания классифицирует как «низкорисковые» ограниченные релизы, а не открытые публичные развертывания.¹

Вице-президент DeepMind по вопросам ответственности Хелен Кинг заявила, что компания будет приостанавливать запуски, если оценки покажут, что она «приближается к критическому уровню возможностей» без адекватных мер снижения рисков.¹ Старший руководитель по вопросам политики Оуэн Лартер добавил, что крупные лаборатории ИИ «сходятся во мнении» о необходимости строгого тестирования перед выпуском передовых моделей, увязывая программу по биоустойчивости с более широкой инициативой по созданию устойчивых, опирающихся на правительства рамок безопасности ИИ.¹