Эксперты говорят, что вероятность того, что ИИ положит конец человечеству, составляет 5%

Может ли искусственный интеллект однажды привести к нашему вымиранию? Как бы преувеличенно это ни казалось, но некоторые ученые, очень серьезно относящиеся к рискам, связанным с быстрым развитием технологий, считают, что это может произойти. По их мнению, когда искусственный интеллект в целом увидит свет, несколько сценариев могут привести к нашей гибели, хотя шансы на это, по их мнению, довольно малы (около 5 %).

Искусственный интеллект стремительно развивается, и, по мнению экспертов, эта тенденция сохранится в ближайшие годы благодаря быстрому приобретению новых возможностей. ИИ уже превосходит человека в некоторых навыках, и это только начало.

Некоторые ученые даже считают, что со временем ИИ может стать причиной вымирания человечества. Это выяснилось в ходе недавнего опроса 2 778 исследователей, опубликовавших работы, посвященные ИИ. Участники поделились своим мнением о времени, которое потребуется для достижения определенных ключевых вех в развитии ИИ. Их также попросили подумать о потенциальном влиянии этих технологических достижений на общество.

Основные достижения в ближайшие десятилетия

По мнению исследователей, вероятность того, что к 2028 году системы ИИ будут способны выполнять большинство интеллектуальных задач, которые на сегодняшний день определяет человек, составляет не менее 50 %. То же самое касается и художественных навыков: к ним относятся, например, автономное сочинение полноценных песен, которые будет сложно отличить от человеческих произведений, или создание полноценных веб-сайтов, предназначенных для обработки финансовых транзакций.

Однако относительно немногие эксперты считают, что к тому времени ИИ будет способен выполнять задачи, связанные со сложным взаимодействием с физическим миром, например, устанавливать электропроводку в новом доме. Также, по мнению некоторых исследователей, даже к 2028 году системы ИИ не смогут решать задачи, требующие глубокого понимания.

По оценкам экспертов, опрошенных в рамках основного исследования, вероятность того, что к 2047 году ИИ сможет превзойти человека во всем — от решения сложных задач и принятия ключевых решений до создания произведений искусства и инноваций, — также составляет 50 %. К 22 веку, по мнению тех же исследователей, существует 50-процентная вероятность того, что все рабочие места будут полностью автоматизированы. Однако эти вероятности основаны на предположении, что ИИ будет развиваться определенными темпами и что в промышленности будет больше инноваций.

ИИ ведет к вымиранию людей?

Почти 58 % опрошенных исследователей считают, что вероятность того, что ИИ может привести к вымиранию человечества, составляет 5 %, особенно после появления общего ИИ. Это высокоразвитая форма искусственного интеллекта, которая значительно превосходит интеллектуальные возможности человека и его способность принимать решения. Исследователи считают, что если такая технология выйдет из-под контроля человека, последствия могут быть драматическими.

Эти результаты могут восприниматься как положительно, так и отрицательно, в зависимости от точки зрения человека. Тем не менее по-прежнему крайне важно ввести в действие более строгие этические принципы и государственное регулирование, чтобы направить развитие ИИ таким образом, чтобы максимизировать преимущества и минимизировать риски.

Так, более 70 % опрошенных исследователей обеспокоены различными рисками, связанными с ИИ (даже без учета рисков, связанных со сверхчеловеческим ИИ). Они опасаются различных драматических сценариев, таких как массовое использование технологий для манипулирования общественным мнением, разработки химического или автоматического оружия, мониторинга и контроля населения в мельчайших деталях и так далее.