В крупных компаниях, занимающихся разработкой искусственного интеллекта, наблюдается волна увольнений среди топ-менеджеров. Многие из них испытывают опасения, что их работа может привести к катастрофическим последствиям для человечества.
Как сообщает Axios, за последнее время из ведущих фирм в сфере нейросетей ушли 10 сотрудников, включая высокопрофильных руководителей и инженеров. Основной причиной стали опасения относительно развития технологий, способных угрожать существованию людей.
Основатель Grok Илон Маск на своей странице в X оценил вероятность такого исхода в 20%. Эта концепция, известная как p(doom), изначально задумывалась в шутливом контексте, но теперь стала серьезной метрикой для оценки угроз от агрессивного искусственного интеллекта. Генеральный директор Google Сундар Пичаи в подкасте у Лекса Фридмана также назвал свои оценки — от 15% до 25%.
Обсуждение касается AGI — сильного искусственного интеллекта, сопоставимого с человеческим, способного к универсальному обучению и эффективному решению множества задач. Точные сроки его появления остаются неясными, но Пичаи предполагает, что это произойдёт чуть позже, чем через пять лет.
Тем не менее, оптимисты, не воспринимающие ИИ как угрозу, ссылаются на мнение специалистов: разработчики оценивают риск уничтожения человечества в 1 из 10 случаев, а некоторые даже в 1 из 5.
Что вы думаете по этому поводу?







