Генпрокуроры США требуют повысить безопасность чатботов после инцидентов

Недавние инциденты, связанные с психическим здоровьем пользователей чатботов, стали причиной обращения генпрокуроров США к технологическим компаниям. В ряде случаев утверждается, что ответы ИИ усугубляли состояние людей.

В рамках письма выдвигаются требования об ужесточении мер безопасности для ИИ-систем. Генпрокуроры настаивают на проведении независимых проверок больших языковых моделей, которые могут идентифицировать высказывания, способствующие «опасным или обманчивым представлениям». Также подчеркивается необходимость привлечения экспертов и общественных организаций к тестированию технологий перед их выпуском и публикации полученных результатов.

Кроме того, генпрокуроры предлагают рассматривать инциденты, затрагивающие психическое здоровье, с такой же серьезностью, как это делается при утечках данных, с установлением четких правил уведомлений и сроков реакции.

Сейчас читают

Материалы, которые чаще открывают сегодня.

Загрузка…

Ещё по теме

Продолжить чтение

Материалы, которые помогут не выпадать из темы.