Google представила нейросеть Gemma 3 с 270 млн параметров на лазерном принтере с 14 МБ памяти

Искусственный интеллект функционирует, используя встроенный интерпретатор языка PostScript Level 3

Языковую модель Google Gemma 3 270M удалось активировать непосредственно на стандартном офисном принтере Ricoh. Эксперимент был проведён сотрудником Google Омаром Сансевьеро с помощью Carbon — компактного движка для запуска нейросетей. При этом исследователям не потребовалось изменять прошивку принтера или подключать дополнительные вычислительные платы: модель функционировала непосредственно внутри устройства, используя встроенный интерпретатор языка PostScript Level 3, который предназначен для обработки заданий на печать.

Источник изображения: ИИ Gemini

Чтобы вписаться в ограниченные ресурсы принтера, разработчики применили динамическую загрузку слоёв нейросети, последовательно помещая их в память. Скорость генерации составила 61,3 токена в секунду. Для тестирования системе предложили продолжить фразу «Read the fine», после чего принтер напечатал ответ «Read the fine print» («Читайте мелкий шрифт»). Однако обработка исходного запроса заняла около 184 секунд. Тем не менее, эксперимент продемонстрировал, что даже обычная офисная техника способна запускать локальные ИИ-модели без специализированного оборудования.

Источник
Оцените статью
Pandia