ChatGPT стал причиной нового громкого скандала с обвинением в убийстве

Компания OpenAI оказалась в центре нового скандала, связанного с «галлюцинациями» чат-бота ChatGPT. Под этим термином подразумеваются случаи, когда нейросеть предоставляет пользователям ложную информацию, выдавая её за правду.

Правозащитная организация из Австрии Noyb подала жалобу на OpenAI, после того как ChatGPT ошибочно обвинил одного норвежца в жестоком преступлении — убийстве своих детей. При общении с чат-ботом, мужчина задал вопрос о себе, после чего получил ответ о том, что якобы был осуждён на 21 год тюрьмы за убийство двух детей и покушение на жизнь третьего.

Noyb утверждает, что такой ответ нарушает Общий регламент о защите данных ЕС (GDPR), который требует точности в отношении персональных данных. Эксперты отмечают, что попытка OpenAI снять с себя ответственность, делая оговорку о возможных ошибках чат-бота, не является достаточной защитой.

Ранее подобные «галлюцинации» ChatGPT уже приводили к обвинениям людей в мошенничестве, жестоком обращении с детьми и сексуальных домогательствах.

«Приводить пользователям лишь небольшую оговорку о том, что чат-бот может ошибаться, совершенно недостаточно. Ложно выдавать информацию и потом добавлять, что она может быть неправдой — это недопустимо», — комментирует ситуацию юрист Noyb по защите данных Йоаким Седерберг.

Сейчас читают

Материалы, которые чаще открывают сегодня.

Загрузка…

Ещё по теме

Продолжить чтение

Материалы, которые помогут не выпадать из темы.