На HuggingFace появилась фича Use this model для запуска LLM и Text-2-Image моделей у себя локально через желаемый софт....
На HuggingFace появилась фича Use this model для запуска LLM и Text-2-Image моделей у себя локально через желаемый софт.
В настройках хаггинг аккаунта заходим в раздел Local Apps and Hardware. Можно здесь задать своё железо, но на фильтрацию AI-приложений похоже это не влияет. Я с ноута, где стоит двухгиговая 1050 запустил ламу 3 в Jan, всё ок.
Ставим галочки на софте, который вы используете для того, чтобы гонять модели локально. Для работы с текстом поддерживаются , LM Studio, Jan, Backyard AI. С картинками пока только Draw Things и, скоро, DiffusionBee, но они обе только на мак.
Нажимаем Browse Compatible Models —> выбираем приглянувшуюся нейронку —> кликаем Use this model в правом верхнем углу —> выбираем в каком софте запустить, и через диплинк в нём откроется окно для загрузки модели. Можно и просто исследуя хаггинг открыть понравившуюся нейронку нажав Use this model .
Доступны, в основном, квантизированные GGUF версии, которые можно скачать либо целиком, либо они состоят из нескольких частей и для работы понадобится скачать их все как архив из множества кусков (они обычно подписаны part_N). Чтобы понять какую модель грузить, можно глянуть страницу с описанием на хаггинге, если там про это есть. В противном случае качайте, то что как вам кажется нормально запуститься в памяти вашей видюхи. Как только модель загружена — можно генерить.
Если вы пилите своё приложение для запуска локальных моделей, то нажав Suggest a new local app вы можете предложить добавить его в список.
7 views
256
71
4 months ago 00:01:10 1
На HuggingFace появилась фича Use this model для запуска LLM и Text-2-Image моделей у себя локально через желаемый софт....
4 months ago 00:13:19 1
AI Череватенко (Борода, Ной и др.) | RVC Stalker Voices - RVC v2 голосовая модель
4 months ago 00:09:43 1
Перевод Аудио и Видео в Текст! Нейросети для Транскрибации!
4 months ago 04:10:27 136
«Евангелион» не окончен, грядет вал исэкаев, инцестуальность «Могилы светлячков»
4 months ago 00:00:47 1
️ Moondream WebGPU — небольшая VLM, поддерживающая обработку изображений, работает локально в браузер...
4 months ago 00:09:00 1
Нейросеть Stable Diffusion. Как установить на ПК и как пользоваться. Гайд по webUI Automatic 1111
4 months ago 00:06:50 1
гайд на войсченджер от братишкина (realtime voice changer)
4 months ago 00:00:45 3
Огонь: нашли идеальный инструмент для управления документацией.
4 months ago 00:00:13 22
HunyuanDiT — модель преобразования текста в изображение с SD3
4 months ago 00:10:24 1
Файнтюнинг на примере Llama 3 + QLoRA. ПРОЩЕ и ЭФФЕКТИВНЕЕ чем когда-либо
4 months ago 00:20:29 1
0171 Лучшая озвучка текста голосом / Подробный тест нейросетей
4 months ago 00:10:18 4
Улучшенный локальный RVC: клонируем свой голос за 5 минут | Видеоурок по установке | RVC rmvpe
4 months ago 00:23:33 1
Фотосессия в нейросетях с помощью одной фотографии в Stable Diffusion и через дискорд
4 months ago 00:39:39 1
Stable Diffusion - основные настройки, ускорение генерации, основы промптинга, апскейл, VAE
4 months ago 00:00:45 1
DocsGPT — open-source AI-помощник для работы с документами и не только DocsGPT — это функциональное...
5 months ago 00:15:14 5
Любой стиль без промта | IP-Adapter Stable Diffusion
5 months ago 00:48:41 1
Stable Diffusion Portable (AUTOMATIC1111)
5 months ago 00:00:56 2
🔥 Нейросети сделают вам короткий пересказ любого видео на YouTube
⤷ Открываем Whisper, (https://huggingface.
5 months ago 00:07:09 1
Как заработать на AI КОМИКСАХ? Заработок на нейросетях в интернете.
5 months ago 00:16:01 1
Как установить нейросеть Stable Diffusion на любой ПК и ускорить её?
5 months ago 00:08:29 1
Генерируем 3D-сцены для видеоигр с Blockade Labs и героев в Luma AI — Genie | СмотрИИделай. Урок 25
5 months ago 00:35:35 3
ТОП-7 способов генерации со своим лицом! #ai #art #design #leonardo #artflow #fabuła #midjourney
5 months ago 00:22:16 1
Ультимативный гайд по общению с нейросетью | Character AI, Лучшие альтернативы и Локальная установка
5 months ago 00:14:40 1
Где и как найти крутую нейросеть и как работать с ней на русском. Выбор, установка, примеры