Ultimate Vocal Remover GUI v5.5.0 Standalone x64 (Repack by Dr. Badan) [20.12.2022]

84261681 Если сообщение об ошибке содержит примерно такое описание: И при этом B>A и D>C, то проблему в широком диапазоне этих чисел решает пара строчек кода, но для этого нужно воспользоваться не скомпилированной версией .exe, а предкомпилированным оригинальным кодом на python. Потребуется скачать и установить Python и пару библиотек для поддержки, но всё это делается достаточно быстро. У меня эта схема позволила запустить почти все модели на любых настройках, а без такой редакции примерно треть моделей отказывалась запускаться в ряде случаев по причине святого грааля всея ИИ CudaOutOfMemoryError. Проверено, работает. Потребуется короткий тестовый wav файл 3-4 секунды длительности, с вокалом. Тонкие настройки заключаются в том, что описано в руководстве торча в разделе менджмент памяти.
Суть проста. Менеджер видеопамяти PYTORCH_CUDA_ALLOC_CONF управляется из торча четырьмя параметрами.
— max_split_size_mb — размер блока видеопамяти, свыше которого блоки не будут разделяться на более мелкие части, это основная настройка.
— roundup_power2_divisions — округление общей запрошенной видеопамяти до размера, кратного степени двойки, что в некоторых случаях повышает эффективность её расхода.
— roundup_bypass_threshold_mb — порог по размеру для такого округления, если запрошенная видеопамять больше чем заданное число, то этот размер далее не округляется, также служит эффективности распределения памяти.
— garbage_collection_threshold — порог срабатывания сборщика мусора, оставшегося в видеопамяти от вычислений.
В целом, для карт с небольшим количеством VRAM основной и даже единственной настройкой служит max_split_size_mb, которая служит для контроля фрагментации видеопамяти при её загрузке, но мы добавим все четыре, чтобы можно было экспериментировать. Для этого в блокноте или другом текстовом редакторе типа Notepad++ или SublimeText и тому подобных открываем файл uvr.py.
В начале этого файла идёт блок импорта конфигурации # GUI modules, убеждаемся, что в нём есть строчка import os. Если её вдруг нет, просто добавляем под блоком импорта эту строчку, или прямо в середину блока или его начало. После этого прокручиваем в конец блока импорта (где идут команды import или from) и нажав пару раз перенос строки добавляем код: Убирая решётку # перед строкой, мы делаем её активной, если вернуть решётку, тогда строка закоменчена и исполняться не будет. Оставим пока все четыре строки закоменчеными, сохраним файл и проверим, что всё по прежнему запускается и добавленные изменения не повлекли ошибку запуска. Если всё нормально, раскоменчиваем последнюю строку с командой max_split_size_mb и начинаем тестировать параметр. В качестве размера можно вписать любое число больше 20.
Общая магия состоит в том, что отчёт об ошибке, возникающий вследствие выбора модели, которая заведомо изначально не запускается с определёнными настройками, например 7_HP2-UVR с окном 1024 и агрессивностью 10, является подсказкой для направления поиска правильного параметра: Во-первых смотрим, что размер запрошенной памяти A не превышает размер всей существующей B. Если превышает, то распределять бесполезно. Затем выключаем всех потребителей GPU — браузер, проигрыватель, выгружаем программы из диспетчера задач и тд. Вписываем в параметр некое число, например 512, сохраняем файл, и вновь запускаем в командной строке программу: Когда возникла вторая ошибка, смотрим, как изменились значения распределения памяти. Если произошло хотя бы одно из трёх: уменьшился размер запрашиваемой памяти A, увеличилось количество свободной памяти или уменьшилась разница между резервной и распределённой D–C — то мы на верном пути. Основная суть — как только резервная память станет меньше, чем распределённая, модель заработает, как только размер запрашиваемой станет меньше свободной, модель заработает. Записываем куда-то полученные из ошибки значения для контроля, и пробуем новый размер. Общий принцип в том, что мы проверяем показатели при минимальном размере 21 Мб, затем проверяем показатели при максимальном, например 2048 Мб, а затем делим примерно пополам, и смотрим, в какую сторону от середины настройки больше отвечают трём требованиям. Оставшееся расстояние вновь делим пополам, и снова оцениваем, в какую сторону нужно двигаться. В итоге для карт с небольшим количеством VRAM можно существенно улучшить показать выработки моделей, поскольку данный параметр PYTORCH_CUDA_ALLOC_CONF чрезвычайно влиятелен вследствие фактического разнообразия чипов, их производителей, конкретных схем устройства и обращения к памяти.
Обратной стороной этого параметра является его влияние на эффективность утилизации GPU, поэтому его почти никогда не оставляют для пользовательской настройки в компилированных приложениях, ибо подразумевается, что программа должна исполняться с достаточной эффективностью на мощных машинах, и хоть как-то запускаться на слабых, поэтому настройки какие-то средние. А для обхода CudaOutOfMemoryError требуется как раз пограничная настройка параметра, которая для разных устройств (и разных моделей) очень сильно отличается. Например у меня в одной модели хорошо работает размер 166 Мб, а в другой 512.
Бонусом идёт то, что файл uvr.py можно продублировать с разными именами типа uvr166.py и uvr512.py — и настроив каждую копию под конкретный размер и модель, тем самым иметь глобальный параметр конфигурации распределения видеопамяти на уровне исполняемого файла, то есть просто запускать нужный файл под нужную модель или ансамбль и не париться.