Джун-тулбокс: локальные модели под присмотром Opus
Toolbox для Android-агента: скиллы, официальные MCP от Google и bridge к локальным моделям через LM Studio. Экономия до 70% токенов.
Работаю сейчас над интересной штукой — Джун-тулбокс.
Смысл такой: вы качаете некий Toolbox (название пока не придумал), в котором есть базовый набор для агента по андроид-разработке.
В моём случае это:
- скиллы на основе superpowers
- Android CLI (набор официальных скиллов и MCP от самой Google)
- набор архитектурных практик (прям примеры MVI-MVVM паттернов с примерами классов)
- и самая крутая фишка — bridge для работы с локальными моделями через LM Studio
Как это работает?
У вас есть крутые скиллы, на основе которых дорогой Opus создаёт таски. Эти таски достаточно простые (например, создай класс с полями).
Зачем жечь токены у Opus, когда можно это отдать локальной LLM?
Поэтому в моей коробке будет умный Opus, который будет контролировать своих подопечных в виде локальных моделей, раскидывать им задания, делать замечания и, после того как проверит, что всё ок, отдавать заказчику — т. е. вам.
Самые сложные задачи типа brainstorm — строго у Opus.
В итоге экономия до 70% токенов. Звучит как магия, не правда ли?
Сейчас всё работает, но есть сложности. Далее буду рассказывать.
А самое вкусное: в этот toolbox можно добавлять что угодно.
Приходит к вам сотрудник, и вы просто ему говорите: установи через brew эту коробку. Там удобный wizard поможет всё настроить — и вуаля, вы точно знаете, что сотрудник будет выдавать хороший результат, так как набор тулов вы можете менять и добавлять на основе вашей экспертизы.
Назовём — Джун-тулбокс 😎