Топ-менеджеры компаний ИИ увольняются из-за боязни, что их работа ведёт к уничтожению человечества

Из ведущих компаний по разработке ИИ увольняются топ-менеджеры: они боятся, что их работа приведёт к уничтожению человечества.

По данным Axios, за последнее время из передовых компаний, работающих над нейросетями, уже ушли 10 сотрудников — это люди из руководства и ведущие инженеры. Основная причина — страх перед развитием технологии, которая может привести человечество к катастрофе.

Илон Маск у себя на странице в X оценил шанс такого исхода в 20%. P(doom) изначально была шуткой, но теперь стала серьёзной метрикой, измеряющей риск гибели человечества от сверхразумного ИИ. Гендир Google назвал схожий диапазон — от 15% до 25%.

Речь идёт об AGI — сильном искусственном интеллекте, сравнимом с человеческим и способным к универсальному обучению и решению задач. Точно непонятно, когда оно появится, но по прогнозам это может случиться чуть позже, чем через 5 лет.