LM Playground

Погрузитесь в будущее ИИ прямо на своем устройстве (Джемма, Лама 3, Фи 3, Мистраль))

LM Playground задумана как универсальная платформа для экспериментов с различными типами больших языковых моделей (LLM) на вашем устройстве. Это позволяет пользователям загружать различные LLM, загружать их в приложение и общаться с этими моделями. Эта установка позволяет на практике изучить возможности и различия между различными LLM, что делает ее бесценным инструментом для энтузиастов, исследователей и всех, кто интересуется достижениями в технологии языковых моделей.

Поддерживаемые в настоящее время модели:

• Google Gemma 1.1 3B и 7B

• Мета Лама 3 7Б

• Microsoft Фи 3B

• Мистраль 7Б

Этот проект был создан на основе проекта llama.cpp с оптимизацией OpenCL для повышения производительности. Приложение использует модели формата GGUF с квантованием Q4KM, которые будут сохранены в папке «Загрузки».