Компания делает ставку на масштабируемость и работу с изображениями
Meta* анонсировала четвертое поколение своей open-source языковой модели Llama. Новая линейка включает версии разных размеров: Scout (109 млрд параметров), Maverick (400 млрд) и флагманскую Behemot (2 трлн параметров). Все модели используют архитектуру Mixture of Experts, благодаря которой задействуется только часть параметров при генерации ответа. Это позволяет улучшить эффективность и адаптивность работы.
Scout уже сейчас сопоставима с такими моделями, как Gemma 3 и Mistral Small 3.1, а Maverick опережает Gemini 2.0 Flash и GPT-4o по ряду метрик. Модель способна обрабатывать контент до 10 миллионов токенов, что может быть полезно при работе с кодом и большими текстовыми массивами.
Флагманская версия Behemot пока в процессе обучения, но уже демонстрирует превосходные результаты в задачах по естественным наукам.
* Компания Meta признана экстремистской организацией, а ее деятельность запрещена на территории РФ
Документ вводит юридическое определение искусственного интеллекта, а также суверенной и национальной языковых моделей. Им придется проходить проверку на соответствие традиционным…
Генеративная поэзия появилась задолго до ChatGPT. Компьютеры генерируют стихи уже больше 60 лет, а сама мечта заставить машину рифмовать —…
Как специалисты по машинному обучению наводят порядок при работе с большими корпусами? Что нужно сделать, чтобы эксперимент был воспроизводимым, качество…