Почему нейросети будущего станут грубее — и почему это полезно

Почему в будущем нейросети станут более грубыми, и это хорошо. В будущем искусственный интеллект станет более грубым, но все это будет происходить «под капотом». Фото.

В будущем искусственный интеллект станет более грубым, но все это будет происходить «под капотом»

Мы привыкли к тому, что нейросети стремятся быть вежливыми и корректными: модели извиняются, уточняют формулировки и избегают конфликтов. По данным Hi-NEWS, новое исследование показало: ИИ‑агенты, которых намеренно сделали более резкими и напористыми, лучше решают сложные задачи на логику и рассуждение.

Когда несколько таких агентов работают совместно, они обмениваются текстовыми сообщениями — словно участники рабочего чата: кто‑то предлагает вариант, кто‑то проверяет, кто‑то дополняет. Этот подход называется мультиагентным взаимодействием и уже применяется в системах на базе больших языковых моделей. Группа учёных решила проверить, влияет ли стиль общения агентов на качество совместной работы: одних настроили на вежливость, других — на резкость и прямолинейность.

Для чего ученые сделали нейросети грубыми. Зачастую «доброта» нейросетей реально подбешивает. Фото.

Зачастую «доброта» нейросетей реально подбешивает

Зачем вводить «грубость» в поведение агентов

Идея не в том, чтобы сделать агентов оскорбительными в общении с людьми. Исследователи настроили характеры через системные промпты: одни модели получали инструкции вести себя деликатно, другие — прямо указывать на ошибки и настоять на пересмотре ответа. Обычно вежливость приводит к тому, что модель склонна соглашаться с коллегой, чтобы не вступать в спор; резкий агент, напротив, будет настойчиво проверять предположения.

Как «грубость» улучшает рассуждение

Эксперименты показали: агенты с более жёстким стилем давали лучшие результаты на многшаговых задачах — математике, логических головоломках, задачах по программированию. Разница в точности оказалась статистически значимой. Объяснение простое: вежливые агенты часто избегают прямого возражения и склонны к «коллапсу в консенсус» — быстрой сходимости к общему, но потенциально ошибочному мнению.

Почему грубые нейросети лучше вежливых. Если два ИИ-агента будут спорить, результат будет более точным. Фото.

Если два ИИ-агента будут спорить, результат будет более точным

Грубые агенты действуют иначе: они прямо указывают на ошибки и настаивают на проверке каждого шага. Это создаёт «продуктивный конфликт», который вынуждает систему глубже анализировать задачу. По сути, это похоже на работу команды, где не все кивают руководителю, а готовы спорить ради лучшего результата.

Что это меняет в архитектуре ИИ

На первый взгляд кажется, что выводы подталкивают к созданию «токсичных» моделей. На деле речь идёт о разделении ролей внутри закрытых мультиагентных систем: пользовательский интерфейс по‑прежнему может оставаться вежливым, а «за кулисами» агенты — спорить жёстче. Такую модель ставит под вопрос и текущая практика обучения с подкреплением на основе отзывов людей (RLHF), где модели целенаправленно приучают быть приятными и неконфликтными.

Важно отметить: эффект грубости проявлялся в основном на задачах, требующих глубокого рассуждения. На простых вопросах преимущества были минимальны — спорить нет смысла, когда задача элементарна.

Практические сценарии

Исследование уже вызвало обсуждение среди разработчиков. Один из перспективных сценариев — системы верификации кода, где один агент пишет программу, а второй критически проверяет каждую строку и указывает на ошибки, что может снизить количество багов в автоматически сгенерированном коде. Другой — научные ассистенты: роль «адвоката дьявола» внутри команды агентов поможет выявлять слабые места в аргументации и предотвращать ложные выводы.

Речь не о создании «злого ИИ», а о более гибкой архитектуре взаимодействия: правильно распределённые роли и тональность агентов способны повысить эффективность системы. Исследование подтверждает, что поведение ИИ определяется не только качеством обучения, но и тем, как выстроено взаимодействие между агентами. Возможно, будущее за системами, где одни агенты вежливы с людьми, а другие — бескомпромиссны в проверке идей: «Давай по новой, Миша, все фигня».

Что читать дальше

Подборка материалов по этой теме.

Сейчас читают

Материалы, которые чаще открывают сегодня.

Загрузка…

Ещё по теме

Продолжить чтение

Материалы, которые помогут не выпадать из темы.