
Европарламент утвердил первый в мире закон, регулирующий использование искусственного интеллекта. Важнейшие положения документа включают запрет на считывание эмоций у работников, создание баз для распознавания лиц и вмешательство в выборные процессы. За нарушение правил предусмотрены значительные штрафы. Соответствующие данные опубликованы на сайте Европарламента.
Постановление поддержали 523 депутата, 46 высказались против, а 49 воздержались.
«Данный регламент вводит обязательства для ИИ в зависимости от их потенциальных рисков и влияния на общество. Новые правила запрещают определенные применения технологий, которые могут угрожать правам граждан», — пояснили в парламенте.
Согласно закону, под запретом теперь также нахождение изображений лиц в Интернете или на видеонаблюдении для создания систем распознавания, использование технологий для оценки эмоций в рабочих и учебных заведениях, а также составление социальных рейтингов.
Запрет касается и полицейских операций, если использование технологий основано простым профилированием или оценкой характеристик граждан. Системы биометрической идентификации в реальном времени можно применять только по судебному или административному разрешению и с жесткими мерами предосторожности о времени и месте проведения операций.
«Это может касаться, к примеру, поиска пропавших лиц или предотвращения актов терроризма. Использование таких систем задним числом считается высокорисковым и требует получения судебного разрешения», — добавили в Европарламенте.
Особое внимание уделяется искусственному интеллекту с повышенным риском, например, связанному с критически важными инфраструктурами, образованием, занятостью и правосудием. Эти системы можно применять с оценкой возможных рисков, а также с обязательным ведением журналов использования. Цели использования должны быть четко сформулированы, а контроль над процессом осуществляться человеком. Граждане имеют право подавать жалобы и получать объяснения по решениям, связанным с их правами.
Также предусмотрены меры по информационной безопасности. Запрещено использовать ИИ, способный манипулировать поведением людей или эксплуатировать их уязвимости. Сгенерированная нейросетью или обработанная информация, включая изображения и аудио-, видеоконтент, должна быть четко обозначена как дипфейк.
Разработчики обязаны публиковать подробные отчеты о контенте, используемом для обучения своих систем ИИ, с учетом требований прозрачности и соблюдения авторского права в ЕС. Для мощных моделей, которые могут представлять системные риски, установлены дополнительные требования, включая оценку рисков и обязательную отчетность о возможных инцидентах.
За нарушения правил предусмотрены штрафы до 35 миллионов евро. Если запрет нарушает компания, штраф может составить указанную сумму или до 7% ее мирового дохода за предыдущий финансовый год — в зависимости от того, что больше.
Для упрощения соблюдения норм новым игрокам на рынке будет открыт специальный офис, который проверит модели ИИ на соответствие требованиям перед выходом на рынок.
Однако на сайте Европарламента подчеркивается, что закон пока не вступил в силу. Он должен пройти юридическую проверку, после чего его ждет утверждение в Совете ЕС. Закон вступит в силу через 20 дней после официальной публикации и будет полностью применим через 24 месяца, за исключением некоторых положений.






