Исследование анизотропии и внутренней размерности языковых моделей

Исследование анизотропии и внутренней размерности языковых моделей

В ходе исследования анизотропии и внутренней размерности языковых моделей мы сосредоточились на изучении пространств эмбеддингов, полученных из промежуточных слоев трансформеров. Основной целью было выяснить, в какой форме располагаются эти эмбеддинги и как они меняются в процессе обучения. В отличие от трансформеров-энкодеров, чьи эмбеддинги локально изотропны и имеют высокие косинусы текстовых представлений, эмбеддинги декодеров, таких как GPT, демонстрируют высокую анизотропию — облако точек вытянуто и сосредоточено вдоль одной линии. Мы также заметили, что анизотропия варьируется по слоям, достигая максимума в середине декодеров. Эти наблюдения интересны, поскольку предполагают, что подобная неоднородность может быть связана с процессом обучения. Более того, внутренняя размерность эмбеддингов меняется по фазам: сначала происходит увеличение размерности, а затем её сжатие, что может указывать на усовершенствование обобщающих способностей моделей. Эти результаты могут помочь оптимизировать процесс обучения и повысить эффективность трансформеров.

Мотивация исследования

В ходе нашего исследования, представленном на конференции EACL 2024, мы сосредоточились на двух ключевых аспектах: анизотропии и внутренней размерности активаций моделей. Более глубокое понимание этих понятий может помочь выявить причины высокой эффективности трансформеров, а также их ограничения. Мы изучили, как пространство эмбеддингов моделей изменяется в процессе обучения и какие факторы влияют на его структуру, что может привести к оптимизации их производительности и уменьшению вычислительных затрат.

Методика исследования

Для анализа пространств контекстуализированных эмбеддингов мы выбрали в качестве основного датасета enwik8 — коллекцию очищенных статей Википедии на английском языке, тщательно отобранную для обеспечения высококачественных данных. После этого тексты проходили через исследуемые языковые модели, что позволяло нам получать промежуточные активации для каждого токена на различных слоях сети. Результатом этого процесса стало формирование многомерного облака точек, представляющего пространство эмбеддингов.

Этот подход обеспечил нас обширным набором данных для дальнейших экспериментов, которым мы подвергли полученное облако точек, анализируя его характеристики и структуру. Мы также провели дополнительные эксперименты на случайных последовательностях токенов, чтобы проверить устойчивость наших наблюдений и исключить влияние конкретного датасета на полученные результаты. Этот многоступенчатый метод позволил углубиться в исследование анизотропии и внутренней размерности пространств эмбеддингов, открывая новые горизонты для понимания свойств трансформерных моделей.

Влияние анизотропии на пространство эмбеддингов

Визуализация многомерного пространства эмбеддингов представляет собой серьёзную проблему, ввиду его высокой размерности и сложности. Одна из методик, которую мы использовали для анализа этого пространства, заключается в измерении анизотропии — показателя, отражающего степень вытянутости облака точек. Мы обнаружили, что для декодеров, таких как GPT и Llama, анизотропия значительно выше по сравнению с энкодерами, такими как Bert. Это означает, что в декодерах эмбеддинги формируют более вытянутые структуры, что может указывать на неравномерное распределение информации в пространстве. Особенно выраженная анизотропия наблюдается на средних слоях моделей, что, как мы предполагаем, связано с особенностями процесса обучения и используемой архитектурой внимания. В таком контексте данный феномен может затруднять полное использование выразительных возможностей моделей, ограничивая их способность к генерации разнообразных и сложных представлений.

Изменение анизотропии в процессе обучения

В процессе нашего исследования мы внимательно наблюдали за изменениями анизотропии в ходе обучения трансформеров-декодеров. Мы обнаружили, что анизотропия в этих моделях со временем демонстрирует тенденцию к снижению, и все они постепенно конвергируют к схожей форме пространства с единым профилем анизотропии. Это явление может свидетельствовать о наличии универсальных динамических процессов, происходящих внутри генеративных моделей.

Анализируя профиль анизотропии по слоям, мы заметили, что в начале и в конце декодеров эмбеддинги становятся более изотропными, в то время как максимальная анизотропия наблюдается в средних слоях. Такое изменение указывает на трансформацию представлений через процесс обучения, где на ранних этапах модель может исследовать большее число направлений пространства, а затем сужает свои представления, достигая, возможно, более компактных и удобных для генерации форм. Это открытие придаёт глубину нашему пониманию взаимодействия между обучением и структурой пространств эмбеддингов, что открывает новые горизонты для улучшения архитектур языковых моделей.

Внутренняя размерность как индикатор сложности

Внутренняя размерность является важным концептом, позволяющим нам понять "сложность" той структуры, на которой размещаются точки в многомерном пространстве эмбеддингов. В ходе нашего исследования мы наблюдали, что эта размерность, представляющая собой меру того, сколько "линий" необходимо для описания распределения точек, изменяется в процессе обучения языковых моделей однотипно для всех проанализированных моделей.

Этот процесс обучения можно разделить на две фазы: в первой фазе эмбеддинги перемещаются в пространство более высоких измерений, что позволяет модели "запоминать" и удерживать как можно больше информации. Однако во второй фазе наблюдается сжатие этих эмбеддингов, в результате чего происходит выявление более глубоких взаимосвязей и закономерностей в данных. Мы предполагаем, что такая последовательность смены внутренних измерений не только подтверждает универсальность процессов обучения трансформеров, но также может быть использована для оптимизации этих процессов в будущем, позволяя моделям более эффективно обрабатывать и обобщать информацию.

Практическое значение результатов

Наши результаты подчеркивают важность оптимизации процесса обучения языковых моделей, особенно в свете выявленных закономерностей в пространстве эмбеддингов и внутренней размерности. Мы пришли к выводу, что ненужные измерения, которые не используются моделью, могут быть удалены, что, в свою очередь, сделает обучение более эффективным и быстрое. Кроме того, хорошее понимание первой фазы, когда происходит инфляция эмбеддингов, может привести к разработке новых подходов, позволяющих моделям быстрее адаптироваться к этой стадии.

Кроме того, наблюдение за повышением внутренней размерности перед взрывами лосса открывает новые горизонты для предсказания и контроля этой распространенной проблемы. Понимание этой взаимосвязи может помочь избежать неоправданных затрат вычислительных ресурсов во время обучения и повысить стабильность моделей. Все эти результаты служат основой для дальнейших исследований в области оптимизации трансформеров и разработки более устойчивых языковых моделей.