С помощью TensorRT расширения и с обновленными драйверами от Nvidia мы можем получить двукратное ускорение при генерации и апскейле (увеличении) изображения с SDXL моделями и 50% к скорости при генерации и апскейле с моделями sd 1.5 в Automatic1111 (Stable Diffusion). И это еще не все. Мы можем снизить потребление видеопамяти, особенно это актуально при работе с SDXL моделями у кого мало видеопамяти.
Установка TensorRT в Automatic1111 (Stable Diffusion) . Из недостатков стоит отметить отсутствие поддержки ControlNet и некоторых других расширений. Но всегда можно отключить TensorRT и выполнить нужные действия без него. Для меньшего потребления памяти с SDXL моделями мы можем прописать в bat файле ключ --medvram-sdxl. Или --medvram или --lowvram для всего.
*Меню:*
00:00 - Вступление
02:48 - Обновляем драйвер Nvidia
03:56 - Устанавливаем сборку Automatic1111 с TensorRT
06:38 - Вид сборки Automatic1111
07:59 - Вкладка TensorRT
09:05 - Генерируем Unet модель для sd 1.5 в TensorRT
61 view
934
322
9 months ago 00:16:01 1
Как установить нейросеть Stable Diffusion на любой ПК и ускорить её?