
Недавние инциденты, связанные с психическим здоровьем пользователей чатботов, стали причиной обращения генпрокуроров США к технологическим компаниям. В ряде случаев утверждается, что ответы ИИ усугубляли состояние людей.
В рамках письма выдвигаются требования об ужесточении мер безопасности для ИИ-систем. Генпрокуроры настаивают на проведении независимых проверок больших языковых моделей, которые могут идентифицировать высказывания, способствующие «опасным или обманчивым представлениям». Также подчеркивается необходимость привлечения экспертов и общественных организаций к тестированию технологий перед их выпуском и публикации полученных результатов.
Кроме того, генпрокуроры предлагают рассматривать инциденты, затрагивающие психическое здоровье, с такой же серьезностью, как это делается при утечках данных, с установлением четких правил уведомлений и сроков реакции.
