ИИ может повысить риск глобальной пандемии: тревожные выводы отчёта Rand Corporation

Искусственный интеллект и пандемия

По данным нового отчёта исследования Rand Corporation, искусственный интеллект может увеличить вероятность возникновения глобальной пандемии в пять раз. Исследование, заказанное Агентством перспективных оборонных исследований США (DARPA), основывается на моделировании сценариев, связанных с биотерроризмом и утечками из лабораторий, что поднимает серьезные вопросы этики и регулирования в области больших языковых моделей.

Проблема биологической безопасности

Современные ИИ-модели, такие как ChatGPT, могут значительно упростить процесс создания и распространения биологического оружия. Авторитетные эксперты указывают, что искусственный интеллект может помочь в выборе патогена, синтезе ДНК и подборе условий для хранения и доставки биологических агентов, а также в обходе существующих мер контроля. Исследование обращает внимание на то, что злоумышленники, получившие доступ к доступным ИИ-системам, могут даже без особых технических знаний получать инструкции по созданию опасных биологических средств, таких как вирус оспы.

Управление рисками и необходимость регулирования

Ключевым риском является снижение «барьера доступа» к биологическим атакам. Ранее организовать подобные действия было сложно и требовало высокой квалификации, однако теперь ИИ может упростить этот процесс. Rand подчеркивает важность регуляции, призывая к запретам на доступ к информации о биотехнологиях в LLM, внедрению фильтров для опасного контента и проведению аудита моделей, используемых в исследований. Также необходимо пересмотреть подходы к публикации биологических данных в открытом доступе.

Общий вывод исследования подчеркивает, что если развитие ИИ будет продолжаться без учета рисков, связанных с биологическими угрозами, вероятность новой пандемии может значительно возрасти в ближайшие десятилетия. Технологии, призванные помогать в лечении и профилактике, могут стать непреднамеренными катализаторами биологических угроз.

Источник

Что читать дальше

Подборка материалов по этой теме.

Сейчас читают

Материалы, которые чаще открывают сегодня.

Загрузка…

Ещё по теме

Продолжить чтение

Материалы, которые помогут не выпадать из темы.