Метод SubTrack++ от ученых: 50% экономии времени предобучения языковых моделей

Исследователи из Университета Ватерлоо разработали метод, который значительно ускоряет и снижает затраты на создание больших языковых моделей (LLM). Эта технология делает мощные инструменты искусственного интеллекта (ИИ) более доступными для пользователей.

Метод, названный SubTrack++, сокращает время, необходимое для предобучения модели — самого затратного этапа — на 50%. При этом точность работы системы не только сохраняется, но даже превосходит современные аналоги.

Процесс создания LLM требует огромных вычислительных ресурсов, специализированного оборудования и много электроэнергии, что ограничивает возможности для небольших компаний. Новый подход сосредотачивается на критически важных параметрах модели, упрощая корректировку ошибок.

Как объясняют авторы, обучение подобно чтению целой библиотеки для выявления языковых закономерностей. SubTrack++ позволяет более эффективно организовать этот процесс.

Данное исследование способствует развитию более доступного и ответственного ИИ. Ускорение и снижение стоимости обучения открывает новые горизонты для создания персонализированных цифровых помощников, адаптированных к индивидуальным потребностям.

Источник

Сейчас читают

Материалы, которые чаще открывают сегодня.

Загрузка…

Ещё по теме

Продолжить чтение

Материалы, которые помогут не выпадать из темы.