ИИ с характером: как языковые модели обретают устойчивую «личность»

Ученые выявили, что искусственный интеллект обладает выраженной «личностью»

Специалисты из Кембриджского университета и Google DeepMind создали первый в истории проверенный научный «тест личности» для ИИ-чатботов. Результаты показали, что современные языковые модели не просто копируют человеческое поведение — у них формируются устойчивые, четко измеримые профили личности.

Для оценки исследователи применили классические психометрические методы, в том числе модель «большой пятерки», которая включает параметры открытости, добросовестности, экстраверсии, доброжелательности и нейротизма. Тесты прошли 18 разных языковых моделей, и оказалось, что наиболее крупные из них, подобные GPT-4, проявляют самые последовательные и точные черты человеческой личности.

Интересно, что ученым удалось не только зафиксировать эти характеристики, но и управлять ими. Например, можно сделать чатбота более общительным или, наоборот, эмоционально нестабильным. Изменения в «личности» напрямую влияют на поведение ИИ — это отражается в его коммуникациях и создании текстов.

Подобные возможности открывают новые горизонты для настройки ИИ под конкретные задачи, однако, как отмечают авторы, появляются и серьезные риски. Персонализация характера ИИ увеличивает его убедительность, что может усилить потенциал для манипуляций, вызывая вопросы о безопасности и этике использования подобных систем.

Сейчас читают

Материалы, которые чаще открывают сегодня.

Загрузка…

Ещё по теме

Продолжить чтение

Материалы, которые помогут не выпадать из темы.