Генеративные технологии искусственного интеллекта становятся всё более влиятельными в области биологии, открывая возможности для создания новых молекул. Однако учёные предостерегают о рисках, связанных с доступом к таким инструментам, что требует разработки эффективных мер биобезопасности.
В 2024 году Дэвид Бейкер, лауреат Нобелевской премии и создатель модели RoseTTAFold, а также генетик Джордж Черч из Гарварда отметили важность внедрения «штрихкодов» в генетические последовательности новосозданных белков для их отслеживания. Несмотря на эти инициативы, недавние исследования Microsoft показали, что текущие меры недостаточны.
ИИ-сгенерированные генетические последовательности часто способны обойти существующие системы биобезопасности. Например, программы, отвечающие за анализ ДНК, не могут идентифицировать опасные последовательности, если они содержат «безопасные» элементы.
Исследователи призывают к созданию комплексной системы биобезопасности прежде, чем произойдут незапланированные инциденты. ИИ уже в состоянии разрабатывать не только белки, но и РНК, а также целые клетки и ткани. Например, модели RFdiffusion2 и PocketGen могут создавать белки уровнем атомов, нацеленные на выполнение определённых функций, такие как запуск биологических реакций или связывание с лекарствами. Хотя РНК-терапия кажется многообещающей, создание РНК-препаратов затруднено из-за особенностей формирования трёхмерной структуры молекул.
Учёные продемонстрировали, что алгоритмы способны проектировать потенциально опасные биоматериалы. В одном из экспериментов ИИ создал токсичные белки, которые успели обойти системы биобезопасности. В другом случае алгоритм, предназначенный для поиска антивирусных молекул, предложил известный нейротоксин в качестве потенциального медикамента.
Для решения этих вопросов нужны строгость в правилах и контроль на всех этапах применения ИИ в биологии. В Великобритании уже опубликованы рекомендации по оценке синтеза ДНК, а в США вопросы биобезопасности включены в стратегию разработки ИИ-моделей для биотехнологий. Технологические компании также высказались о намерении исключить опасные вирусные последовательности из обучающих баз данных и проводить строгую проверку новых инноваций.
Авторы исследования настаивают на создании многоуровневой системы защиты, в которую войдёт контроль доступа к данным и алгоритмам, надзор за процессом обучения моделей и стресс-тестирование для выявления уязвимостей. Они подчеркивают, что эффективная система биобезопасности должна быть «живым стражем», способным адаптироваться к новым угрозам.






