Джейкоб Коксон, бывший исследователь OpenAI и Anthropic, объявил о своём увольнении и выходе из индустрии искусственного интеллекта, заявив, что обе компании слишком быстро движутся к созданию самосовершенствующегося суперинтеллекта без достаточных мер безопасности. Он назвал это «гонкой» и предупредил, что ИИ может представлять экзистенциальную угрозу для человечества уже к концу десятилетия.
Коксон, который последние три года занимался pretraining-исследованиями в OpenAI и Anthropic, утверждает, что разработчики AI-систем серьёзно рассматривают сценарий уничтожения человечества. Он подчеркнул, что это не публичное маркетинговое сообщение, а реальные опасения, которые руководители и старшие исследователи выражают в приватных разговорах. По его словам, ситуация может выйти из-под контроля уже к концу 2027 года по самым агрессивным сценариям.
Гонка за суперинтеллектом и риски
Коксон подчеркнул, что не стоит недооценивать возможности будущих AI-систем. Он ожидает, что они смогут выполнять задачи, которые сейчас требуют человеческой экспертизы, получать доступ к ресурсам и работать в разных сферах значительно быстрее людей. Некоторые исследователи уже используют термины «crunchtime» и «endgame» для описания текущего этапа развития ИИ.
Его переход из OpenAI в Anthropic в июле 2026 года был обусловлен фокусом последней на безопасности ИИ. Однако Коксон пришёл к выводу, что даже Anthropic не может самостоятельно решить проблему безопасности суперинтеллекта в условиях жёсткой конкуренции между AI-лабораториями. Он отметил, что в OpenAI многие не осознают масштабов потенциальных последствий, тогда как в Anthropic риски понимают, но продолжают двигаться вперёд, считая, что если они не создадут мощный ИИ первыми, это сделает кто-то другой.
Реакция Anthropic и инициативы по замедлению развития
Эван Губингер, руководитель направления Alignment Science в Anthropic, подтвердил опасения Коксона, заявив, что он и его коллеги действительно считают возможным сценарий, при котором ИИ может уничтожить человечество. Губингер оценивает вероятность такого сценария более чем в 10% в течение следующего десятилетия. Он уточнил, что его беспокойство касается не нынешних моделей, а появления суперинтеллекта вследствие recursive self-improvement — многократного самосовершенствования системы, которое может происходить быстрее, чем ожидалось.
Эти заявления появились на фоне растущей дискуссии о необходимости замедления развития мощных AI-систем. В июле 2026 года 1386 сотрудников ведущих AI-компаний, включая OpenAI, Anthropic, Google и Meta, подписали инициативу Pacing the Frontier, призывая правительство США поддержать международные механизмы для контролируемого замедления развития frontier AI. Они подчеркнули риски, связанные с AI-агентами, которые могут выполнять сложные последовательности действий без постоянного контроля человека, а также с автоматизацией самого процесса AI-исследований, когда ИИ начнёт помогать создавать следующие поколения ИИ.
Коксон считает, что именно переход к системам, способным самостоятельно улучшать собственные возможности, является принципиально новым этапом риска.
🖋 UAFF — будь в курсе арбитражных инсайтов