
С ростом и распространением искусственного интеллекта, в частности, языковых моделей, возникла необходимость в системах распознавания, позволяющих четко определять, написан ли текст человеком или создан нейросетью. Существующие решения зачастую выдают только окончательный ответ, оставляя за кадром детали анализа. Исследователи из МФТИ, Сколтеха, Института искусственного интеллекта AIRI и других научных учреждений разработали новую методику, которая объясняет причины своих выводов.
Основой системы распознавания стали разреженные автокодировщики (SAE), представляющие собой технику интерпретации нейронных сетей, выделяющую ключевые компоненты из общего состояния. В данном случае языковые модели разбиваются на слои: один отвечает за сложность предложений, другой — за выбор слов. Как отметила Лаида Кушнарева, старший академический консультант Huawei и один из авторов проекта, такая интерпретация позволяет детально анализировать тексты.
Специалисты, часто работающие с текстами, сгенерированными ChatGPT, способны распознавать их по характерным чертам, таким как уместная формальность языка, а также излишне длинные и редкие вступления, повторяющиеся формулировки и низкая информационная плотность. Однако многие популярные детекторы не уточняют, в какой мере текст обладает этими особенностями. Новый детектор на основе SAE позволяет автоматизировать процесс анализа, раскладывая текст на понятные числовые признаки.
Нейросеть может генерировать тексты в различных стилях в зависимости от поступившего запроса. В ходе исследования выяснилось, что в языковой модели существуют отдельные механизмы, которые изменяются в зависимости от темы. После автоматической идентификации этих механизмов, ученым пришлось вручную интерпретировать их функции. Например, было установлено, что механизм, отвечающий за синтаксическую сложность, может быть ослаблен, если запрос касается неформального стиля.
В процессе интерпретации было также замечено, что определенные механизмы активируются или подавляются в зависимости от темы запроса. В научных текстах нейросеть увеличивает синтаксическую сложность, тогда как в финансовых темах включаются многословные обсуждения. Конечно, языковые модели будут развиваться, и перед исследованиями в этом направлении открываются новые горизонты для понимания более сложных механизмов работы искусственного интеллекта.
Источник изображения на превью: freepik / фотобанк Freepik (сгенерировано ИИ)





