Джейкоб Коксон, колишній дослідник OpenAI та Anthropic, оголосив про своє звільнення та вихід з індустрії штучного інтелекту, заявивши, що обидві компанії надто швидко рухаються до створення самовдосконалюваного суперінтелекту без достатніх заходів безпеки. Він назвав це «гонкою» і попередив, що ШІ може становити екзистенційну загрозу для людства вже до кінця десятиліття.
Коксон, який останні три роки займався pretraining-дослідженнями в OpenAI та Anthropic, стверджує, що розробники AI-систем серйозно розглядають сценарій знищення людства. Він наголосив, що це не публічний маркетинговий меседж, а реальні побоювання, які керівники та старші дослідники висловлюють у приватних розмовах. За його словами, ситуація може вийти з-під контролю вже до кінця 2027 року за найагресивнішими сценаріями.
Гонка за суперінтелектом та ризики
Коксон підкреслив, що не варто недооцінювати можливості майбутніх AI-систем. Він очікує, що вони зможуть виконувати завдання, які зараз потребують людської експертизи, отримувати доступ до ресурсів та працювати в різних сферах значно швидше за людей. Деякі дослідники вже використовують терміни «crunchtime» та «endgame» для опису поточного етапу розвитку ШІ.
Його перехід з OpenAI до Anthropic у липні 2026 року був зумовлений фокусом останньої на безпеці ШІ. Однак Коксон дійшов висновку, що навіть Anthropic не може самостійно вирішити проблему безпеки суперінтелекту в умовах жорсткої конкуренції між AI-лабораторіями. Він зазначив, що в OpenAI багато хто не усвідомлює масштабів потенційних наслідків, тоді як в Anthropic ризики розуміють, але продовжують рухатися вперед, вважаючи, що якщо вони не створять потужний ШІ першими, це зробить хтось інший.
Реакція Anthropic та ініціативи щодо уповільнення розвитку
Еван Губінгер, керівник напряму Alignment Science в Anthropic, підтвердив побоювання Коксона, заявивши, що він та його колеги справді вважають можливим сценарій, за якого ШІ може знищити людство. Губінгер оцінює ймовірність такого сценарію більш ніж у 10% протягом наступного десятиліття. Він уточнив, що його занепокоєння стосується не нинішніх моделей, а появи суперінтелекту внаслідок recursive self-improvement — багаторазового самовдосконалення системи, яке може відбуватися швидше, ніж очікувалося.
Ці заяви з’явилися на тлі зростаючої дискусії про необхідність уповільнення розвитку потужних AI-систем. У липні 2026 року 1386 співробітників провідних AI-компаній, включаючи OpenAI, Anthropic, Google та Meta, підписали ініціативу Pacing the Frontier, закликаючи уряд США підтримати міжнародні механізми для контрольованого уповільнення розвитку frontier AI. Вони наголосили на ризиках, пов'язаних з AI-агентами, які можуть виконувати складні послідовності дій без постійного контролю людини, а також з автоматизацією самого процесу AI-досліджень, коли ШІ почне допомагати створювати наступні покоління ШІ.
Коксон вважає, що саме перехід до систем, здатних самостійно покращувати власні можливості, є принципово новим етапом ризику.
🖋 UAFF — будь в курсі арбітражних інсайтів