TokForge

TokForge 1.0 уже здесь. Полноценные модели ИИ работают прямо на вашем телефоне. Никакого облака, никакой учетной записи, никакой подписки. Ваши разговоры никогда не покидают ваше устройство.

Чат и ролевые игры. Создавайте персонажей или импортируйте карточки из chub.ai и TavernAI (PNG/JSON). Персоны, книги знаний, альтернативные приветствия и групповые чаты, где каждый персонаж может говорить своим собственным голосом.

Генерируйте изображения на устройстве. Введите запрос и получите картинку без подключения к интернету. Работает на ЦП везде, с ускорением GPU на Adreno и ускорением NPU на поддерживаемых устройствах Snapdragon.

Поговорите с ним. Kokoro — преобразование текста в речь с несколькими голосами, плюс клонирование голоса: запишите около минуты аудио, и TokForge заговорит этим голосом. Голосовой ввод включен.

Задавайте вопросы своим документам. Вставьте PDF-файл, DOCX, EPUB, Markdown, CSV или текстовый файл и задавайте вопросы о нем. Долговременная память и граф знаний отслеживают важную информацию в ходе диалогов.

Веб-поиск, когда вам это нужно. По умолчанию отключен. Включите его, чтобы предоставить модели актуальную информацию.

Три движка, оптимизированных для вашего чипа. llama.cpp (GGUF) с путями OpenCL и Vulkan GPU, MNN с OpenCL или подключение к собственному серверу, совместимому с OpenAI. Маршрутизация с учетом SoC автоматически выбирает самый быстрый путь.

Находите и тестируйте модели. Подборка из 52 моделей, соответствующих вашему устройству, плюс встроенный загрузчик с поиском Hugging Face. AutoForge тестирует каждую комбинацию модели и бэкенда на вашем оборудовании и публикует результаты в общедоступной таблице лидеров на leaderboard.tokforge.ai, если вы этого пожелаете.

Создавайте резервные копии и восстанавливайте свои разговоры, персонажей и настройки. API для разработчиков с более чем 270 локальными конечными точками. Никакой аналитики, никакой телеметрии, работает в режиме полета. Доступно на 8 языках.

Сообщество

Discord: discord.gg/Acv3CBtfVm

Таблица лидеров: leaderboard.tokforge.ai

Веб: tokforge.ai

iPhone и iPad: TokForge доступен в виде публичной бета-версии на TestFlight.