Модели

GloVe

Улучшение Word2Vec, которое учитывает не только локальные взаимосвязи слов, но и связи слов в рамках всего корпуса

date_range

Год выпуска: 2014

assignment

Описание

Модель (Global Vectors) преобразует слова в семантические векторы. Если два слова похожи по значению, то расстояние между их векторами также будет невелико. Во время обучения модели используются глобальные статистики, извлеченные из корпуса, то есть учитываются не только сведения о локальном контексте слова. 

Примеры использования:

  • Поиск документов по текстовому запросу
  • Кластеризация, классификация текстов
  • Использование в качестве инициализации матрицы эмбеддингов языковых моделей

Нововведения

В отличие от Word2Vec Glove учитывает не локальный контекст слова, а глобальную связь с другими словами в корпусе

Количество параметров: V * d, где V – размер словаря, d – размерность вектора

Область: NLP

Share

Recent Posts

И швец, и жнец, и на дуде игрец: что такое ИИ-агент

Чат-бот отвечает на сообщение, а агент сам открывает сервисы, ищет файлы, запускает программы, заполняет онлайн-формы, отправляет письма… Разбираемся, как устроены…

05.11.2026

Наследники Элвиса Пресли судятся с Anthropic

Истцы требуют 41,1 млн долларов за обучение Claude на 274 песнях музыканта

02.11.2026

Эволюция художественного текста, или как подружить Гоголя и Git

Как собрать все редакции гоголевского «Ревизора» на одной странице? Как показать правки и отличия разных версий? DH-исследователь Женя Дуненков сделал…

30.10.2026