
Глава OpenAI Сэм Альтман подтвердил тревогу экспертов по поводу потенциальных рисков использования ChatGPT для создания биологического оружия. Важный аспект здесь заключается в возможности воспроизводства уже известных биоугроз, а не в разработке новых, что требует более глубоких знаний.
Альтман отметил, что усовершенствованные модели искусственного интеллекта могут не только увеличить, но и ускорить риски создания биологического оружия даже для тех, кто не обладает научной подготовкой. OpenAI считает, что их технологии могут достичь критического уровня риска в рамках внутренних протоколов компании. Неудивительно, что Пентагон пригласил Альтмана и других руководителей ИИ-компаний в качестве подполковников — это подчеркивает важность их мнений в вопросах безопасности.
По словам руководителя отдела безопасности OpenAI, новые версии существующей модели (o3) могут достичь этой угрожающей планки. В компании активно работают над усилением тестирования на безопасность, чтобы свести к минимуму риски разработки биологического оружия. С учетом этого, представители OpenAI выразили опасения, что новые модели ИИ могут повысить уровень осведомленности новичков, что в свою очередь может способствовать созданию опасного оружия.

