Станция 03 из 04

Где брать модели

Почти всё, что выложено с открытыми весами, лежит в одном месте — на Hugging Face. Это склад, библиотека и площадка одновременно. Разберёмся, как он устроен и как не скачать не то.

Hugging Face — три раздела, которые нужно различать.

  1. 01

    Models

    Сами модели. У каждой своя страница с описанием, файлами и лицензией. Имя всегда состоит из двух частей: организация и название, например организация/название-модели. Первая часть говорит, кто выложил, и на неё стоит смотреть в первую очередь.

  2. 02

    Datasets

    Наборы данных, на которых модели обучают и проверяют. Начинающему они нужны редко, но именно там видно, из чего сделана модель, если разработчик это раскрыл.

  3. 03

    Spaces

    Работающие демонстрации, которые можно открыть прямо в браузере и попробовать модель, ничего не устанавливая. Самый быстрый способ понять, стоит ли она скачивания.

Открыть huggingface.co

Как читать карточку модели

Карточка — это страница модели с её описанием. Толковая карточка отвечает на несколько вопросов, и если ответов нет, это само по себе сигнал.

  1. 1

    Кто выложил

    Организация в имени модели. Официальные страницы разработчиков помечены значком проверенной организации. Копий и переделок чужих моделей на складе много, и не все они безобидны.

  2. 2

    Что это за файл

    Исходная модель, дообученная версия или квантованная сборка для локального запуска. Если в названии есть GGUF, модель уже подготовлена для домашнего компьютера.

  3. 3

    Размер и требования

    Вкладка с файлами показывает вес в гигабайтах. Грубое правило: модель должна помещаться в память видеокарты, иначе она будет работать медленно или не запустится вовсе.

  4. 4

    Лицензия

    Указана прямо на карточке. Бывают привычные открытые лицензии, бывают собственные с ограничениями, а бывает доступ по заявке. Для домашних опытов это почти не важно, для работы — важно всегда.

Официальное описание того, из чего состоит карточка, — в документации Hugging Face.

На что смотреть в лицензии

Открытые веса и открытый исходный код — разные вещи, и разница обнаруживается в самый неподходящий момент. Три вопроса, ответы на которые стоит найти до скачивания.

Можно ли использовать в работе. Часть лицензий разрешает только исследования и личные опыты. Для продукта, за который берут деньги, нужна отдельная договорённость.

Есть ли порог по размеру бизнеса. Некоторые лицензии свободны для всех, кроме очень крупных компаний, — тем предлагается договариваться отдельно.

Что можно делать с результатом. Отдельно оговаривается, вправе ли вы обучать на ответах модели свою собственную и обязаны ли указывать происхождение.

Где модели сравнивают

Хранилище не говорит, какая модель лучше. Этим занимаются отдельные площадки, и относиться к ним стоит как к показаниям приборов, а не как к приговору.

  • LM Arena

    Тип
    Сравнение вслепую

    Люди сравнивают ответы двух моделей, не зная, какая из них какая, и голосуют за лучший. Из множества таких сравнений складывается таблица. Ближе всего к живому ощущению «с какой приятнее работать».

  • Artificial Analysis

    Тип
    Измерения

    Сводка измерений по моделям и поставщикам: скорость ответа, задержка, стоимость. Полезно, когда выбираете не «самую умную», а ту, что уложится в бюджет и время.

  • Open LLM Leaderboard

    Тип
    Архив, не обновляется

    Таблица открытых моделей по результатам автоматических тестов. Сейчас это архив: новые модели туда не добавляются. Смотреть можно, опираться на неё как на актуальную картину нельзя.