«Восстание машин» близко: Сотрудник Anthropic уволился из страха перед ИИ

Ведущий исследователь Anthropic уволился, опасаясь уничтожения человечества искусственным интеллектом.

Специалист по машинному обучению Джейкоб Коксон покинул компанию Anthropic и объявил о полном выходе из индустрии ИИ. По данным The Wall Street Journal, 27-летний учёный не хочет участвовать в гонке технологических корпораций по созданию систем, способных к самостоятельному самосовершенствованию.

Хроника бегства из Кремниевой долины

Последние три года Коксон занимался исследованием предобучения языковых моделей — сначала в OpenAI, а затем в Anthropic. Последняя компания считалась отраслевым эталоном безопасности искусственного интеллекта.

Перейдя в Anthropic ради более ответственного подхода, исследователь пришёл к выводу, что ни одна корпорация сегодня не способна безопасно разрабатывать сверхразум. В своём заявлении он прямо обвинил обе компании в безответственности за «ставку на кон наших жизней» ради создания сверхинтеллекта.

Коксон предупреждает, что отрасль движется к наиболее агрессивным сценариям развития. По его словам, ситуация может окончательно выйти из-под контроля уже к концу следующего года.

В открытом письме специалист подчеркнул, что очень скоро нейросети станут сверхчеловеческими системами, способными взломать любую цифровую защиту или совершить научный прорыв за одну ночь. Его уход отражает растущую тревогу внутри самого ядра разработчиков передовых технологий США.

Читайте также: В Раде устроили истерику из-за предложений США по урегулированию