Новая модель с 800 млн параметров обошла конкурентов в генерации команд для Linux

⁠2

Специализированная модель dale-0.8B достигла 79,4% на тесте с 471 заданием — значительно больше, чем у универсальных моделей, которые в 5–11 раз больше по размерам

На платформе Hugging Face представлена модель dale-0.8b-GGUF — компактная языковая модель, созданная для преобразования запросов на естественном языке в команды Bash для Linux. Пользователь может описывать задачи, например, запрашивать нахождение всех крупных файлов в текущем каталоге, а модель возвращает соответствующую команду в организованном формате JSON с кратким объяснением.

В тесте из 471 задания модель dale-0.8B показала результат 79,4%. В сравнении, Qwen3.5-9B и Gemma 4 E4B продемонстрировали по 62,8%, тогда как Qwen3.5-4B — 54,6%. Даже более компактная Qwen3.5-0.8B справилась только с 14,9% заданий. Таким образом, специализированная модель с 800 млн параметров превзошла универсальные системы, которые содержат в несколько раз больше параметров. Эти результаты представлены автором проекта.

Источник изображения: Manuel Garcia Sanz

Модель способна не только генерировать команды, но и обрабатывать запросы, которые не следует выполнять. Для этого предусмотрены специальные статусы: refuse — отказ от выполнения неподходящей операции, unsure — указание на неопределенность запроса. Это позволяет не выдавать команду в ситуациях, когда задача сформулирована нечетко или может быть опасной.

Модель доступна в формате GGUF с квантованием Q4_K_M: файл занимает примерно 529 МБ. Она работает на процессоре через llama.cpp, без необходимости использования графической карты. По данным автора, медианная задержка составляет 1,72 секунды даже на ноутбуке 2020 года. Лицензия Apache 2.0 позволяет свободное использование и модификацию проекта.

dale-0.8B является основой одноимённого инструмента командной строки dale. Он предоставляет пользователям команды, может запрашивать подтверждение перед выполнением и классифицировать потенциально опасные действия. Это позволяет использовать модель в качестве локального помощника при работе с Linux, не отправляя каждый запрос во внешний облачный сервис.

Источник
Оцените статью
Pandia