Первое испытание обещанной независимости ИИ оказывается на удивление обыденным: позвонить, записаться на приём или отличить оконное стекло от столешницы. Компании, создающие потребительских агентов, всё чаще передают такие задачи людям, поскольку даже ведущие модели могут искать информацию и давать рекомендации, но всё ещё ошибаются, когда требуются суждение и действия в реальном мире.¹

В Dazzle AI, по словам Мариссы Майер, компания использует передовые модели для предложений и списков кандидатов, а затем проверяет их работу, прежде чем предоставлять услугу, за которую может «ручаться».¹ Она вспомнила агента, который перепутал стекло для окна со стеклом для столешницы и начал пытаться определить, поместится ли столешница в окне. Человек решил проблему за считаные секунды; агент же мог бы израсходовать огромные вычислительные ресурсы, так и не придя к ответу.¹

Такая модель передачи задач распространяется. Duckbill создала API для отправки вероятных сбоев агентов контрактным работникам, а Wajo AI задействует людей для телефонных звонков и преодоления CAPTCHA. Их довод практичен: совместная работа ИИ и человека не даёт задачам остановиться. Но этот обходной путь также обостряет опасения по поводу конфиденциальности, особенно когда пользователи могут не осознавать, что в их взаимодействие включился человек. Meta заявляла, что такое тестирование с участием людей является частью разработки продуктов, добавляя при этом, что сейчас люди не выполняют запросы пользователей Muse.¹

То же напряжение проявилось в гораздо более возвышенной сфере: математике. После того как OpenAI опубликовала сотни результатов, сгенерированных ИИ, исследователи заявили, что испытывают трудности из-за скудных описаний, слабого контекста и трудоёмкой проверки.²

Сэм Альтман признал эти сложности, но настаивает, что публикацию следует продолжать. «Человечество заслуживает фундаментальных знаний, и мы не должны держать при себе крупное фундаментальное научное открытие», — сказал он, признав при этом, что OpenAI должна улучшить способы представления результатов.² Однако компания также утаила подробности заявленного результата по уравнениям Янга—Миллса по совету выбранных экспертов, разочаровав математиков, которые видят закрытость там, где OpenAI проповедует раскрытие информации.²

От бытовых поручений до передовых доказательств — картина одна и та же: ИИ может ускорить попытку, но людям всё ещё приходится безопасно доводить её до конца — и решать, когда общественность может доверять результату.¹²