Искусственный интеллект и пандемия
По данным нового отчёта исследования Rand Corporation, искусственный интеллект может увеличить вероятность возникновения глобальной пандемии в пять раз. Исследование, заказанное Агентством перспективных оборонных исследований США (DARPA), основывается на моделировании сценариев, связанных с биотерроризмом и утечками из лабораторий, что поднимает серьезные вопросы этики и регулирования в области больших языковых моделей.
Проблема биологической безопасности
Современные ИИ-модели, такие как ChatGPT, могут значительно упростить процесс создания и распространения биологического оружия. Авторитетные эксперты указывают, что искусственный интеллект может помочь в выборе патогена, синтезе ДНК и подборе условий для хранения и доставки биологических агентов, а также в обходе существующих мер контроля. Исследование обращает внимание на то, что злоумышленники, получившие доступ к доступным ИИ-системам, могут даже без особых технических знаний получать инструкции по созданию опасных биологических средств, таких как вирус оспы.
Управление рисками и необходимость регулирования
Ключевым риском является снижение «барьера доступа» к биологическим атакам. Ранее организовать подобные действия было сложно и требовало высокой квалификации, однако теперь ИИ может упростить этот процесс. Rand подчеркивает важность регуляции, призывая к запретам на доступ к информации о биотехнологиях в LLM, внедрению фильтров для опасного контента и проведению аудита моделей, используемых в исследований. Также необходимо пересмотреть подходы к публикации биологических данных в открытом доступе.
Общий вывод исследования подчеркивает, что если развитие ИИ будет продолжаться без учета рисков, связанных с биологическими угрозами, вероятность новой пандемии может значительно возрасти в ближайшие десятилетия. Технологии, призванные помогать в лечении и профилактике, могут стать непреднамеренными катализаторами биологических угроз.



