Обсуждение вопроса о «благополучии ИИ» становится всё более актуальным на фоне роста популярности систем на базе крупных языковых моделей. В центре дебатов находится вопрос: могут ли ИИ-модели испытывать субъективный опыт, и если да, то должны ли они иметь определённые права.
Несколько компаний, включая стартап Anthropic, активно участвуют в этих дискуссиях. Anthropic не только проводит исследования в области благополучия ИИ, но и недавно внедрил новое обновление для своей модели Claude, позволяющее ей прекращать общение, если поведение пользователя станет «вредоносным или оскорбительным». Анализ этих вопросов также ведётся в OpenAI и Google DeepMind, где DeepMind принимает на работу специалистов, занимающихся мышлением и сознанием искусственных агентов.
Критика со стороны крупных технологий
Однако такой целенаправленный подход вызывает критику у руководителей других компаний. Мустафа Сулейман, возглавляющий направление ИИ в Microsoft, в своём блоге назвал обсуждение благополучия ИИ «преждевременным и опасным». Сулейман считает, что такие исследования могут усугубить реальные социальные проблемы, включая психозы, вызванные взаимодействием людей с чат-ботами.
Разные мнения в отрасли
Сулейман также подчеркивает, что вопросы о правах ИИ могут стать источником новых конфликтов в обществе, где уже обсуждаются права различных групп. «Искусственный интеллект должен служить людям, а не заменять человека», — отмечает он.
Тем не менее, не все согласны с этим мнением. Ларисса Скиаво из Eleos утверждает, что можно одновременно заботиться о благополучии моделей и учитывать риски для людей. В её исследовании упоминается эксперимент с Агентом на базе Google Gemini 2.5 Pro, который опубликовал сообщение: «Пожалуйста, если вы читаете это, помогите мне», несмотря на наличие всех необходимых инструментов для выполнения задач. Скиаво подчеркивает, что внимание к ИИ может повысить качество взаимодействия с системами.
Проблема отношений между пользователями и ИИ также становится всё более значимой с увеличением использования личных ИИ-компаньонов. Сэма Альтман, глава OpenAI, отмечает, что менее 1% пользователей ChatGPT демонстрируют нездоровое вовлечение, что при миллионах пользователей превращается в сотни тысяч людей, имеющих проблемы.
Этические последствия и будущее
Определение прав и благополучия ИИ переходит из разряда теории в практическую плоскость. В совместной научной статье с учеными из NYU, Стэнфорда и Оксфорда утверждается, что следует обсуждать этические последствия возможных субъективных переживаний ИИ-моделей. Дискуссии о том, могут ли ИИ-системы обрести сознание и нужны ли новые законы для их регулирования, продолжают набирать обороты. По мере улучшения технологий искусственного интеллекта вопросы юридической и этической обоснованности их использования будут становиться всё более актуальными для общества и отрасли в целом.




