На самом деле всё просто. Лучше чем ты сам тебе никто не поможет.
1) Ошибка нетипичная. На такую ошибку здесь никто до тебя не жаловался. Значит какой-то нетипичный конфиг. Что именно отличается - знаешь только ты.
2) Нужно экспериментировать и пробовать разные варианты установок и версий софтины. Снести всё и переставить минуя пункты 6-9. Поскольку это Win10H22 - имеет смысл поставить версию 26 и посмотреть - заведётся ли она... и так далее ну и читать интернет.
3) Имеет смысл найти английский вариант этой ошибки
скрытый текст
The input is not a valid Base-64 string as it contains a non-base 64 character, more than two padding characters, or an illegal character among the padding characters.
и поискать на буржуйских ресурсах - начиная прямо с официального форума.
4) Тупо глазами просмотреть конфиги vMix, которые как раз хранятся в XML формате. Может удастся увидеть - в каком месте строки запарываются.
Больше я точно вряд ли чем помогу.