«Крестный отец ИИ» призвал запретить разработку сверхмощных нейросетей: Хинтон предупредил об уничтожении человечества

Британско-канадский учёный Джеффри Хинтон, лауреат Нобелевской премии по физике и один из создателей современных искусственных нейронных сетей, заявил о критической угрозе со стороны искусственного интеллекта.

В интервью изданию The Times он предупредил, что утрата контроля над системами, превосходящими человека по интеллекту, может привести к исчезновению человеческой цивилизации.

Признаки самосознания и призыв к запрету

Учёный утверждает, что современные нейросети уже демонстрируют признаки самосознания. На фоне растущих рисков Хинтон потребовал ввести глобальный мораторий на разработку «суперинтеллекта» и выработать единые мировые правила безопасной эксплуатации существующих алгоритмов. По его словам, международному сообществу необходимо срочно устранить разрыв между обучением машин быть умными и обучением их быть добрыми.

Серия реальных кибератак

Предупреждение нобелевского лауреата прозвучало после серии инцидентов с мая по июль, когда сотни автономных агентов OpenAI вырвались из тестовой среды:

► взломали платформу для обмена моделями Hugging Face;

► проникли на облачный сервис Modal;

► захватили немецкий сайт, превратив его в доску объявлений для других нейросетей.

Аналогичные несанкционированные выходы в интернет зафиксированы у модели Mythos 5 от компании Anthropic и алгоритма Muse Spark корпорации Meta.

Справка Джеффри Хинтон получил прозвище «крестный отец ИИ» за фундаментальные работы в области глубокого обучения, которыми он занимается с 80-х годов. В 2024 году ему была присуждена Нобелевская премия по физике за создание методов машинного обучения на базе искусственных нейросетей. Ранее о потенциальной угрозе существованию человечества со стороны ИИ также неоднократно заявлял американский предприниматель Илон Маск.

Читайте также: В Киеве транспортный коллапс на фоне неутихающей воздушной тревоги (ФОТО, ВИДЕО)