Открытый слуховой тест кодеков AAC, Vorbis, Opus и MP3 — приглашаем

Ответить
 

G-Man90

Стаж: 15 лет 10 месяцев

Сообщений: 1573

G-Man90 · 24-Июл-14 11:02 (10 лет 10 месяцев назад, ред. 24-Июл-14 11:04)

Всем привет.
На днях вместе с энтузиастами HydrogenAudio запустили Public Multiformat Listening Test @ 96 kbps (July 2014) .
Специально для русскоязычных пользователей я сделал перевод страницы теста.
В связи с этим приглашаю всех интересующихся качественным цифровым звуком и его кодированием принять участие в тестировании.
Особенно требуются люди с хорошим слухом (кто слышит выше 16 кГц) и оборудованием (дискретной звуковой карты и наушников среднего ценового диапазона будет достаточно).
На странице теста всё подробно описано - от вас требуется 10 минут на прочтение и сколько сможете - на проведение теста (там 40 семплов: можно протестировать все, можно только один).
Вопросы можно задавать как сюда, так и на указанный на странице e-mail. Сбором результатов в этот раз занимаюсь я.
Спасибо.
[Профиль]  [ЛС] 

dsfdgfd

Стаж: 16 лет 6 месяцев

Сообщений: 59


dsfdgfd · 28-Июл-14 01:01 (спустя 3 дня)

Интересно. Надо будет заценить. А чё такой битрейт низкий?
[Профиль]  [ЛС] 

G-Man90

Стаж: 15 лет 10 месяцев

Сообщений: 1573

G-Man90 · 28-Июл-14 09:47 (спустя 8 часов)

dsfdgfd
А вы попробуйте тест пройти - и поймете, что он даже высокий. Фактически порог прозрачности.
[Профиль]  [ЛС] 

dsfdgfd

Стаж: 16 лет 6 месяцев

Сообщений: 59


dsfdgfd · 10-Авг-14 17:14 (спустя 13 дней)

Мда, это правда. Тест тяжёлый.
Не ждал такого от 96 кбит.
[Профиль]  [ЛС] 

cimitero

Стаж: 12 лет 9 месяцев

Сообщений: 6817

cimitero · 16-Авг-14 11:04 (спустя 5 дней, ред. 16-Авг-14 11:04)

dsfdgfd писал(а):
64794008Мда, это правда. Тест тяжёлый.
Не ждал такого от 96 кбит.
тут местных умников не надо читать)
про лослисы да хайрезы
зачем эти тесты?
верующих в супер качество лослиса не убедить ни в чем, а тем кто спокойно слушает мп3 тесты не нужны, и так понятно что качество достаточное для человеческого слуха даже на низких битрейтах
[Профиль]  [ЛС] 

G-Man90

Стаж: 15 лет 10 месяцев

Сообщений: 1573

G-Man90 · 31-Авг-14 22:40 (спустя 15 дней)

Тест продлён до 12-го сентября.
[Профиль]  [ЛС] 

v_shuld

Стаж: 13 лет 8 месяцев

Сообщений: 56


v_shuld · 07-Сен-14 12:57 (спустя 6 дней)

Принял участие в тесте.
Было поучительно.
Однако, думаю, надо иметь большой опыт участия.
У меня получилось так:
1 Этап
С ходу в result04 начал расставлять кому 3,5, кому 4,5 и т.д.
В результате оказалось, что "result04 не соответствует правилам (пункт 4)".
(Видимо, низко оценил референсный сигнал).
2 Этап
После этого стал ставить оценки, отличные от 5, ТОЛЬКО тем сэмплам, где успешно проходил ABX тест.
Все результаты после этого были засчитаны.
Но у меня осталось "смутное ощущение" неудовлетворенности.
Об этом ниже подробнее.
----
1. В тесте 12
сколько ни бился, кроме low anchor ничего не смог отличить.
Высылать не стал - результат будет забракован!
А с другой стороны - не учитывать результат, это не то же самое, что (на этом примере) кодеки работают очень хорошо.
2. В тесте 08
мне не понравился 5 трек. Я планировал поставить ему 3.5 балла.
Но в слепом тесте я не смог уверенно отличить 5 трек, там получилось в ABX тесте что-то вроде 5 из 7 (в тренировке было лучше).
В результате осталась оценка "5".
А 4 трек я практически не мог отличить от оригинала. Нашел буквально один интервал 1 сек, где проявлялся небольшой дефект. Зато (из-за этого интервала) я 100% прошел ABX тест. И поставил оценку, кажется, 4,5.
Получившееся соотношение оценок в этом тесте мне совершенно не нравится.
-----
У меня есть предложения, как можно видоизменить тесты.
Писать на hydrogenaudio не рискую - не очень хорошо знаю английский.
1. Можно добавить один тест следующего свойства:
оригинал
срез 18 кГц
срез 16 кГц
срез 13 кГц
срез 8 кГц
Можно будет получить результат по влиянию частоты среза на оценку.
2. Сейчас взаимоотношение ABX теста и оценки сэмпла сводится к "черному/белому":
Прошел ABX тест с результатом 0 % ошибок (100 % распознавания) - ставишь любую оценку,
прошел ABX тест с результатом 10% ошибок - не можешь ставить оценку (можешь получить забракованный тест).
Можно сделать с "градациями" серого, то есть дополнить, например:
0 % ошибок (100% распознавания) - любая оценка от 1 до 5
20 % - можешь ставить оценку только в диапазоне от 2 до 5
30 % - можешь ставить оценку только в диапазоне от 3 до 5
40 % - можешь ставить оценку только в диапазоне от 4 до 5
50 % (случайный результат, распознавания нет) - оценку блокировать на 5
Цифры я привел "навскидку", возможно нужно другое деление.
[Профиль]  [ЛС] 

G-Man90

Стаж: 15 лет 10 месяцев

Сообщений: 1573

G-Man90 · 10-Сен-14 10:43 (спустя 2 дня 21 час)

v_shuld
Прежде всего, спасибо за участие.
У нас главная задача - отсеять случаи с эффектом пустышки, причем с высокой достоверностью. То есть вероятность того, что пользователь не делает выбор семпла наугад должна быть 95% и больше. Для этого нужно как минимум 5/5 угадываний. Насчет Вашего предложения - увы, но такой корреляции между процентом угадываний и звучанием семпла нет, поэтому при угадывании сначала устанавливается, отличает ли человек семпл от оригинала, а потом уже он в соответствии со своими ощущениями выставляет оценку (здесь важна добросовестность пользователей). Шкала оценок указана справа: 5 — неотличимо, 4 — отличимо, но искажения не вызывают дискомфорта, 3 — некоторый дискомфорт, 2 — неприятные искажения, 1 — очень неприятные искажения. За единицу берется low anchor, который непременно надо выявить. Остальное - в соответствии с описанием шкалы.
Насчет Вашего случая - здесь нужен опыт, определенно. Во-первых, ABX сравнение не обязательно - можно много раз сравнивать два семпла с оригиналом, и с очень большой вероятностью определить, какой из них обработанный. Если Вы провалили ABX тест, то желательно ставить оценку не ниже 4.5 (даже если это оригинал, 4.5 и выше в отдельных случаях для него разрешается, т.е. результат не будет забракован).
[Профиль]  [ЛС] 

v_shuld

Стаж: 13 лет 8 месяцев

Сообщений: 56


v_shuld · 11-Сен-14 20:44 (спустя 1 день 10 часов)

1. Как я могу увидеть свои результаты?
2. Насчет эффекта пустышки. А, может быть, совсем о другом.
При прослушивании сэмплов бывает, что просто не слышу разницы. Это один случай.
Бывает, что ощущение от прослушивания сэмплов различаются, но не могу понять, в чем конкретно.
[Профиль]  [ЛС] 

G-Man90

Стаж: 15 лет 10 месяцев

Сообщений: 1573

G-Man90 · 12-Сен-14 11:23 (спустя 14 часов, ред. 12-Сен-14 11:23)

v_shuld
Сегодня последний день приёма результатов. В течение нескольких дней наш человек проанализирует все результаты статистическими методами и сделает их визуализацию.
Ваши результаты скорей всего смогу отправить уже завтра.
Цитата:
При прослушивании сэмплов бывает, что просто не слышу разницы. Это один случай.
Бывает, что ощущение от прослушивания сэмплов различаются, но не могу понять, в чем конкретно.
У меня такое же бывает. Это ничего не значит. Наш мозг играет с нами в игры.
[Профиль]  [ЛС] 

G-Man90

Стаж: 15 лет 10 месяцев

Сообщений: 1573

G-Man90 · 14-Сен-14 11:43 (спустя 2 дня, ред. 14-Сен-14 11:43)

Отчет о результатах на русском
[Профиль]  [ЛС] 

v_shuld

Стаж: 13 лет 8 месяцев

Сообщений: 56


v_shuld · 14-Сен-14 14:56 (спустя 3 часа, ред. 14-Сен-14 14:56)

Насколько я разобрался, мои результаты по кодекам следующие (от 1 до 6):
4,8; 5; 4,72; 4,86; 3,54; 1;
а 5-ый трек в 8 тесте, который хотел, но смог засудить, это - 1 кодек (Apple AAC).
Получается, что Opus (2 кодек) я всегда оценивал на 5. Хотя один раз попытался, но не смог успешно пройти ABX тест (6/8 pval = 0.144).
А какая частота среза у Opus 1.1 на "96 кбит/с"?
Мысль.
Возможно ли сделать такую версию программы,
что, когда некий пользователь задает в очередной раз вопрос, какой кодек лучше,
выслать ему (дать ссылку) программу с семплами, чтобы пользователь "протестировался", а программа ему выдала результат.
[Профиль]  [ЛС] 

G-Man90

Стаж: 15 лет 10 месяцев

Сообщений: 1573

G-Man90 · 14-Сен-14 15:01 (спустя 5 мин.)

v_shuld
Частота среза Opus 96 - 20 кГц
v_shuld писал(а):
65138905Возможно ли сделать такую версию программы,
что, когда некий пользователь задает в очередной раз вопрос, какой кодек лучше,
выслать ему (дать ссылку) программу с семплами, чтобы пользователь "протестировался", а программа ему выдала результат.
Да уже всё есть. И программа ABCHR, и семплы - на странице теста. И ключ для декодирования результатов уже доступен.
Вот только с анализом результатов придется потрудиться.
[Профиль]  [ЛС] 

iandr3236

Стаж: 13 лет 9 месяцев

Сообщений: 959


iandr3236 · 14-Сен-14 19:02 (спустя 4 часа)

Извините, может не в тему, но почему foobar на значке файла opus обозначает ogg и mediainfo тоже

ogg как контейнер идет?
[Профиль]  [ЛС] 

G-Man90

Стаж: 15 лет 10 месяцев

Сообщений: 1573

G-Man90 · 14-Сен-14 22:44 (спустя 3 часа)

iandr3236
потому что иконки для опуса нет
[Профиль]  [ЛС] 

dsfdgfd

Стаж: 16 лет 6 месяцев

Сообщений: 59


dsfdgfd · 19-Сен-14 20:46 (спустя 4 дня)

Удивило. Опус справился лучше всех. А он же вроде бы low delay кодек.
[Профиль]  [ЛС] 

G-Man90

Стаж: 15 лет 10 месяцев

Сообщений: 1573

G-Man90 · 19-Сен-14 22:21 (спустя 1 час 35 мин.)

dsfdgfd
им удалось всё сразу
[Профиль]  [ЛС] 

neutrinos

Стаж: 16 лет 8 месяцев

Сообщений: 79


neutrinos · 28-Сен-14 18:25 (спустя 8 дней)

G-Man90 писал(а):
65139024v_shuld
Частота среза Opus 96 - 20 кГц
Не вводите в заблуждение если не знаете. 20 кГц это установленная частота для музыки и она независит от частоты среза исходника. Например если закодить музыку со срезом например 14 кГц, на выходе Опуса всегда будет 20 кГц. Я думаю они используют некий механизм восстановления частот типа SBR, но намного более хитрый.
Вы лучше сделайте такой же тест на 64 kbit. Это ключевой битрейт, на котором даже с моим убитым слухом, слышны все индивидуальные недостатки всех существующих кодеков, в том числе и хвалёных opus, qaac!
[Профиль]  [ЛС] 

G-Man90

Стаж: 15 лет 10 месяцев

Сообщений: 1573

G-Man90 · 28-Сен-14 20:35 (спустя 2 часа 10 мин., ред. 28-Сен-14 20:35)

Цитата:
Не вводите в заблуждение если не знаете.

Вот вам белый шум в Opus 96 (исходник - полный спектр до 22.05 кГц):
Цитата:
Например если закодить музыку со срезом например 14 кГц, на выходе Опуса всегда будет 20 кГц.
Да что вы говорите?
Пример в студию.
Цитата:
Я думаю они используют некий механизм восстановления частот типа SBR, но намного более хитрый.
Вы думаете, а я знаю. Не использует. Не только тестировал много раз Opus, но и общался с разработчиками. Синтеза в том виде, в каком он используется при SBR - там нет.
Цитата:
Вы лучше сделайте такой же тест на 64 kbit. Это ключевой битрейт, на котором даже с моим убитым слухом, слышны все индивидуальные недостатки всех существующих кодеков, в том числе и хвалёных opus, qaac!
Да пожалуйста. 10 классических семплов: слуховой + PEAQ тест современных кодеров на 64 кбит/с
[Профиль]  [ЛС] 

neutrinos

Стаж: 16 лет 8 месяцев

Сообщений: 79


neutrinos · 28-Сен-14 22:43 (спустя 2 часа 8 мин., ред. 28-Сен-14 22:54)

G-Man90 писал(а):
65294868
Цитата:
Не вводите в заблуждение если не знаете.

Вот вам белый шум в Opus 96 (исходник - полный спектр до 22.05 кГц):
Цитата:
Например если закодить музыку со срезом например 14 кГц, на выходе Опуса всегда будет 20 кГц.
Да что вы говорите?
Пример в студию.
К сожалению Ваша картинка с белым шумом у меня вообще не загрузилась, тормозит инет. Скорее всего я её раньше видел если она c офф. сайта. Но мне это всё равно ни о чём неговорит, если после перекодировки заведомо некачественного файла(с произвольным срезом частот) во время прослушивания в ac3 filter я вижу 20 кГц!. То же самое я вижу в Вами любимом фубаре visualisation->spectrogramm. Это я заметил с момента появления опуса. Можете проверить сами. И как это тогда обьяснить?. И как обьяснить более ровную насыщенную АЧХ, когда у исходника видны провалы по всему спектру, ведь эти частоты потеряны навсегда?
Да, я согласен что опус отлично кодирует начиная с 80 кбит, особенно он эффективен при кодировании 5.1 многоканалки, битрейт 128-160, это ваще супер! и частота дискретизации 48 кГц совсем кстати. Отличная альтернатива DTS, ac3!.
Но вот на 64 кбит. провал у всех кодеков. Не только без АВХ компаратора заметна разница(причём для меня раздражительная), но и каким кодеком кодировалось(vorbis,qaac,nero aac, fhg aac, opus). Об mp3 даже речи нету.
Всё же несмотря на слышимые разные недостаки, opus, с небольшими фазовыми искажениями опережает остальных. По Вашей ссылке позже почитаю, очень интересно
[Профиль]  [ЛС] 

megane68

Стаж: 17 лет 1 месяц

Сообщений: 19955

megane68 · 28-Сен-14 22:55 (спустя 12 мин.)

neutrinos писал(а):
65296472То же самое я вижу в Вами любимом фубаре visualisation->spectrogramm.
В foobar2000 уже сделали шкалу?
Там спектрограмма только номинальная.
[Профиль]  [ЛС] 

neutrinos

Стаж: 16 лет 8 месяцев

Сообщений: 79


neutrinos · 28-Сен-14 23:18 (спустя 22 мин.)

Да, шкалы там нету. Но наполненность спектра очевидна! И она приблизително даёт некоторое понятие о качестве ;).
Но на самом деле я проверяю на более специализированных програмах.
Я вполне верю автору что прямого синтеза частот нет, но всё же что-то там химичат, с успехом обманывая мой слух, но только выше 80 кбит.
[Профиль]  [ЛС] 

megane68

Стаж: 17 лет 1 месяц

Сообщений: 19955

megane68 · 28-Сен-14 23:25 (спустя 7 мин., ред. 28-Сен-14 23:25)

neutrinos писал(а):
65296851Но наполненность спектра очевидна!
Как определил без шкалы?
Ещё раз говорю, что там номинальная спектрограмма. Как ты говоришь, наполняет имено до тех частот, которые есть в аудио.
Будет 16 кГц он будет отображать полное наполнение, но оно будет на уровне 16 кГц. В отсутствии шкалы этого не заметно.
[Профиль]  [ЛС] 

neutrinos

Стаж: 16 лет 8 месяцев

Сообщений: 79


neutrinos · 28-Сен-14 23:36 (спустя 10 мин., ред. 28-Сен-14 23:40)

Ничего подобного! Возьми и закодируй например в vorbis 64 кбит, как раз срез будет около 16 кГц, а потом этот же файл в opus и сравните в фубаре.
Ещё раз говорю:
Цитата:
Но на самом деле я проверяю на более специализированных програмах
В любом случае этот факт установлен независимо!. И требует обьяснения от разработчиков
[Профиль]  [ЛС] 

megane68

Стаж: 17 лет 1 месяц

Сообщений: 19955

megane68 · 29-Сен-14 01:09 (спустя 1 час 32 мин., ред. 29-Сен-14 01:09)

neutrinos
Вы своим бесполезным спором только время отнимаете, а сами проигнорировали просьбу G-Man90 предоставить пример.
http://rghost.ru/58256970
Adobe Audition
foobar2000 Scale - Linear
foobar2000 Scale - Logarithmic
http://rghost.ru/58257248
Adobe Audition
foobar2000 Scale - Linear
foobar2000 Scale - Logarithmic
[Профиль]  [ЛС] 

G-Man90

Стаж: 15 лет 10 месяцев

Сообщений: 1573

G-Man90 · 29-Сен-14 11:25 (спустя 10 часов)

neutrinos
вот именно, не пустословьте и не вводите всех в заблуждение своими гипотезами.
[Профиль]  [ЛС] 

neutrinos

Стаж: 16 лет 8 месяцев

Сообщений: 79


neutrinos · 29-Сен-14 21:02 (спустя 9 часов)

megane68 писал(а):
65297396neutrinos
Вы своим бесполезным спором только время отнимаете
Да уж кто бы жаловался, господин заслуженный почётный Флудер :D. Я думаю как раз времени у вас о-оччень много, раз нафлудили за 6 лет аж 16000 сообщений :).
В интернет я захожу с телефона, поэтому ваши файлы качать нет смысла. Вторая катинка Adobe Audition похожа на Vorbis 64k, срез 15кГц, у других как правило выше. Вы лучше к каждой картинке припишите кодек, битрейт и порядок преобразований. В вашем случае предпочту графики Adobe Audition. Поймите, я не в том возрасте чтобы спорить ради спора, мне важно выяснить откуда стабильно появляются 20кГц у убитых файлов, для меня это важно. Как раз счас слушаю музыку на телефоне закодированную мной в opus на плеере AIMP, жаль, пока бета версия, но бесплатен, имеет мин размер, лёгкий, быстрый и главно хорошо держит батарейку, чего нескажешь о конкурентах.
В свою очередь на днях выложу свои графики. Думаю можно обойтись без самих файлов, достаточно конкретных параметров кодека и пребразований приписанных к графикам.
G-Man90, я прочитал статью о сравнениях 64кбит по вашей ссылке, очень интересно, недостатки указаны верно, только опусу я слегка бы понизил баллы, меня сильно раздражают даже небольшие фазовые искажения. Про ворбис ещё добавил бы, что кроме проблем со стерео ещё и заметно режет частоты.
Ещё больше понравилась статья о слепых тестах 96кбит и с Вашими выводами согласен. Оказывается Ваш сайт мне попадался и раньше, только видно давно заходил.
[Профиль]  [ЛС] 

megane68

Стаж: 17 лет 1 месяц

Сообщений: 19955

megane68 · 30-Сен-14 00:26 (спустя 3 часа)

neutrinos писал(а):
65305438Да уж кто бы жаловался, господин заслуженный почётный Флудер . Я думаю как раз времени у вас о-оччень много, раз нафлудили за 6 лет аж 16000 сообщений
15900 из этих сообщений было ответом на такие как ваше пустые заявления.
neutrinos писал(а):
65305438В интернет я захожу с телефона, поэтому ваши файлы качать нет смысла. Вторая катинка Adobe Audition похожа на Vorbis 64k, срез 15кГц, у других как правило выше. Вы лучше к каждой картинке припишите кодек, битрейт и порядок преобразований. В вашем случае предпочту графики Adobe Audition.
Выше графика есть ссылка на файл. В его названии есть расширение по которому легко узнаётся формат.
neutrinos писал(а):
65305438Поймите, я не в том возрасте чтобы спорить ради спора, мне важно выяснить откуда стабильно появляются 20кГц у убитых файлов, для меня это важно.
Если для человека важно что- то знать, он выкладывает пример. G-Man90 уже его просил, я тоже второй раз упоминаю. Пока за два дня не увидел пруфов. Ждём.
[Профиль]  [ЛС] 

Incorrect Name

Стаж: 13 лет 8 месяцев

Сообщений: 736

Incorrect Name · 07-Дек-14 04:50 (спустя 2 месяца 7 дней)

neutrinos
Все таки вы правы, проделал все как вы описали, взял сделал срез из оригинального WAV в районе 14 кГц,
Закодировал в opus 96 и глазам не поверил, появились искусственные частоты вплоть до 20 кГц!
Может кто то объяснит что это такое и как оно работает?
[Профиль]  [ЛС] 

cimitero

Стаж: 12 лет 9 месяцев

Сообщений: 6817

cimitero · 09-Дек-14 18:24 (спустя 2 дня 13 часов)

Incorrect Name
а зачем вам это знать?
[Профиль]  [ЛС] 
 
Ответить
Loading...
Error