|
|
|
vtm0002
Стаж: 15 лет Сообщений: 41
|
vtm0002 ·
01-Июл-23 15:26
(1 год 6 месяцев назад)
KorDen32 писал(а):
84888053vtm0002
Вы сейчас описали работу и функционал софта группы Хранителей. У нас есть информация по сидам-личам
Вот только мой проект не имеет никакого отношения к Хранителям, напротив, у меня диаметрально противоположные цели: не сохранить редкие раздачи, а избавиться от "мусора", который никто не сидирует, и который никому не нужен. Я бы хотел выбирать наиболее горячие раздачи (свежие релизы месяца), или наиболее востребованные раздачи всех времен (зарегистрированные 10+ лет и имеющие стабильно по 50+ сидов). Да и качать раздачи, у которых сид был месяц назад - то еще удовольствие, раздача может месяцами висеть на 20%, хотя общий вес книжки всего 5 метров.
Мне просто нужна статистика. Если это какое-то API, пусть и закрытое - было бы интересно к нему присосаться, софт я сам напишу. Если ваш софт просто парсит форум - это я и сам написать могу, просто индексировать весь трекер затратно как для меня, так и для самого трекера.
|
|
|
|
<GoldStar>
Стаж: 2 года 9 месяцев Сообщений: 44
|
<GoldStar> ·
01-Июл-23 19:39
(спустя 4 часа, ред. 01-Июл-23 19:48)
vtm0002
нюансы статистики - это на любителя, самими базами раздач почти никто не занимается, а уж тем более их нюансами.. вот база со статистикой Неофициальная база тем и раздач RuTracker.ORG v. 20220516 (с отзывами/комментариями) в короткой базе, а лучше готовой статистики, видимо, не существует.. вам трекер сделали бесплатный, а вам еще статистику подавай 
|
|
|
|
vtm0002
Стаж: 15 лет Сообщений: 41
|
vtm0002 ·
05-Июл-23 09:24
(спустя 3 дня)
<GoldStar> писал(а):
вам трекер сделали бесплатный, а вам еще статистику подавай
Я как раз об обратном: спарсить всю стату я могу сам, могу парсить хоть по 10 раз на дню. Но такое безобразие - это достаточно накладное занятие, как для меня, так в первую очередь для самого трекера. И долбить трекер во множество потоков, как минимум не слишком красиво по отношению к хорошему бесплатному ресурсу, потому я надеялся, что эта статистика уже где-то есть.
|
|
|
|
Гость
|
Гость ·
29-Июл-23 00:12
(спустя 23 дня)
А за июль 2023 будет база?
|
|
|
|
spidergun
Стаж: 6 лет 7 месяцев Сообщений: 103
|
spidergun ·
30-Июл-23 11:22
(спустя 1 день 11 часов)
Цитата:
А за июль 2023 будет база?
Я обычно обновляю базу в последние выходные месяца, иногда - в первые выходные следующего. Добавил эту информацию в стартовый пост.
Торрент обновлён (2023-07-30)
|
|
|
|
Nesterov
Стаж: 5 лет 2 месяца Сообщений: 31
|
Nesterov ·
15-Авг-23 14:13
(спустя 16 дней)
Сильно не хватает дат, когда зарегистрирован (отредактирован) торрент на форуме. Хотя бы указание в самих темах. В идеале была бы возможность фильтровать торренты по датам размещения как на форуме. Возможно ли это реализовать в будущих раздачах? Или это вопрос исключительно к программам просмотра базы?
|
|
|
|
spidergun
Стаж: 6 лет 7 месяцев Сообщений: 103
|
spidergun ·
20-Авг-23 17:17
(спустя 5 дней)
Цитата:
Сильно не хватает дат, когда зарегистрирован (отредактирован) торрент на форуме. Хотя бы указание в самих темах. В идеале была бы возможность фильтровать торренты по датам размещения как на форуме. Возможно ли это реализовать в будущих раздачах? Или это вопрос исключительно к программам просмотра базы?
В базе эта информация есть. См. раздел "Описание формата" в первом сообщении темы. Первая строка блока.
Я не знаю, какие программы просмотра эту информацию показывают, а какие - нет.
|
|
|
|
egoroff_a__
Стаж: 16 лет 2 месяца Сообщений: 4
|
egoroff_a__ ·
25-Авг-23 23:44
(спустя 5 дней)
Nesterov писал(а):
85072171Сильно не хватает дат, когда зарегистрирован (отредактирован) торрент на форуме. Хотя бы указание в самих темах. В идеале была бы возможность фильтровать торренты по датам размещения как на форуме. Возможно ли это реализовать в будущих раздачах? Или это вопрос исключительно к программам просмотра базы?
Информация действительно есть, как было сказано ранее, - это атрибут registered_at корневого элемента каждого торрента (<torrent>). То как это будет использоваться, разумеется зависит от программы просмотра. К примеру я это использую
|
|
|
|
spidergun
Стаж: 6 лет 7 месяцев Сообщений: 103
|
spidergun ·
27-Авг-23 15:01
(спустя 1 день 15 часов)
Торрент обновлён (2023-08-27)
|
|
|
|
Гость
|
Гость ·
30-Сен-23 06:22
(спустя 1 месяц 2 дня)
Ждём за сентябрь! 
|
|
|
|
spidergun
Стаж: 6 лет 7 месяцев Сообщений: 103
|
spidergun ·
30-Сен-23 17:20
(спустя 10 часов)
Торрент обновлён (2023-09-30)
|
|
|
|
spidergun
Стаж: 6 лет 7 месяцев Сообщений: 103
|
spidergun ·
28-Окт-23 21:08
(спустя 28 дней)
Торрент обновлён (2023-10-28)
|
|
|
|
spidergun
Стаж: 6 лет 7 месяцев Сообщений: 103
|
spidergun ·
26-Ноя-23 04:20
(спустя 28 дней)
Торрент обновлён (2023-11-25)
|
|
|
|
sergoguga
Стаж: 15 лет 1 месяц Сообщений: 180
|
sergoguga ·
27-Ноя-23 12:52
(спустя 1 день 8 часов)
Предлагаю убрать навсегда 5749310,5725057,5726984,5728467,5734312, висят по несколько лет удаленные, смысла ноль, названия не по нынешним временам...
|
|
|
|
spidergun
Стаж: 6 лет 7 месяцев Сообщений: 103
|
spidergun ·
31-Дек-23 04:30
(спустя 1 месяц 3 дня)
Торрент обновлён (2023-12-30)
Внимание! Удалённые раздачи, удаление которых с трекера было обнаружено ботом более года назад, были вычищены из базы. Если они нужны вам в исторических целях, сохраните у себя любой из предыдущих 11 срезов. Например, ноябрьский: 4e7284f8bd1cf99f5d6e6b6fc2c75c972f69dd92.
|
|
|
|
spidergun
Стаж: 6 лет 7 месяцев Сообщений: 103
|
spidergun ·
27-Янв-24 22:41
(спустя 27 дней)
Торрент обновлён (2024-01-27)
|
|
|
|
kalaverin
Стаж: 16 лет 9 месяцев Сообщений: 40
|
kalaverin ·
08-Фев-24 12:17
(спустя 11 дней)
spidergun писал(а):
85798727Торрент обновлён (2024-01-27)
Как я понимаю — удалённые раздачи выпилены из самого дампа, но есть в оригинальной базе? Можно по запросу для себя персонально запросить вообще всё в том же виде, но с удалёнными за всё время?
|
|
|
|
spidergun
Стаж: 6 лет 7 месяцев Сообщений: 103
|
spidergun ·
10-Фев-24 18:38
(спустя 2 дня 6 часов)
Цитата:
Можно по запросу для себя персонально запросить вообще всё в том же виде, но с удалёнными за всё время?
Я же написал - скачайте один из старых дампов, любой с января по ноябрь 2023. Я думаю, сиды ещё есть, особенно на ноябрьском.
|
|
|
|
rocketbot
Стаж: 2 года 7 месяцев Сообщений: 43
|
rocketbot ·
14-Фев-24 12:10
(спустя 3 дня, ред. 14-Фев-24 12:10)
spidergun писал(а):
Удалённые раздачи, удаление которых с трекера было обнаружено ботом более года назад, были вычищены из базы.
Я бы всё собирал, ничего не удалял.. Вот пример прекрасной раздачи, которая едва не умерла полностью, но в итоге нашелся сид и она была полностью восстановлена, хотя долгое время была разрегистрирована. И подобных примеров много, когда теряются ценные файлы(
Свежие примеры потерянных раздач:
https://rutr.life/forum/viewtopic.php?p=85872372#85872372
https://rutr.life/forum/viewtopic.php?p=85872538#85872538
https://rutr.life/forum/viewtopic.php?p=85872639#85872639
https://rutr.life/forum/viewtopic.php?p=85877185#85877185
|
|
|
|
Candagar2010
Стаж: 14 лет 10 месяцев Сообщений: 61
|
Candagar2010 ·
27-Фев-24 16:10
(спустя 13 дней, ред. 27-Фев-24 16:10)
скрытый текст
Кто-нибудь встречал на просторах рунета базу ЯндексМузыки?
|
|
|
|
spidergun
Стаж: 6 лет 7 месяцев Сообщений: 103
|
spidergun ·
03-Мар-24 00:26
(спустя 4 дня)
Торрент обновлён (2024-03-02)
|
|
|
|
nrrnrr
Стаж: 14 лет 10 месяцев Сообщений: 4
|
nrrnrr ·
04-Мар-24 10:34
(спустя 1 день 10 часов, ред. 04-Мар-24 10:34)
vtm0002 писал(а):
84887174Телезрители интересуются: можно ли добавить в раздачу статистику по количеству сидов/личей, количеству скачиваний торрента, возможно количество комментариев пользователей и так далее? Понятно, что эти значения отличаются в зависимости от времени суток, но хотя бы порядок было бы знать полезно.
Для чего: я создаю у себя локальное зеркало книг Рутрекера (не .torrent-файлы, а именно сами книги) и пытаюсь сидировать это насколько могу. Проблема в том, то бесконечные интернеты у меня есть, а вот бесконечных жестких дисков - пока только на 50 терабайт. В последнем же дампе от 20230625, мой скрипт нашел 287557 раздачи с книгами на сумму 69 094 060 862 690 байт, что превышает мои возможности. Используя статистику по личам/сидам, я бы мог выбрать наиболее интересные раздачи и не качать все 287 тысяч раздач/69 терабайт, которые явно не потяну.
На данный момент я обрезал художественную литературу и гуманитарщину, но такими темпами можно резать и книги на английском языке и вообще что угодно, что сведет ценность моего зеркала к нулю.
Поддерживаю! Хорошо бы иметь статистику по "количеству скачиваний торрента".
И еще, чем производится скрапинг Рутрекера? При помощи Scrapy или другого какого то софта?
Можно ли получить исходники для скрапинга, чтобы сделать возможность отображения статистики самостоятельно?
----
Тут созрел самый простой и быстрый алгоритм скрапинга сайта без Scrapy и других библиотек:
1. Получить список форумов.
2. Пройтись по всем страницам каждого форума, собрать список раздач, и там же можно собрать статистику по скачиваниям и другую.
3. При необходимости собрать данные из каждой раздачи.
|
|
|
|
spidergun
Стаж: 6 лет 7 месяцев Сообщений: 103
|
spidergun ·
31-Мар-24 03:48
(спустя 26 дней)
Торрент обновлён (2024-03-30)
|
|
|
|
spidergun
Стаж: 6 лет 7 месяцев Сообщений: 103
|
spidergun ·
28-Апр-24 00:50
(спустя 27 дней)
Торрент обновлён (2024-04-27)
|
|
|
|
spidergun
Стаж: 6 лет 7 месяцев Сообщений: 103
|
spidergun ·
25-Май-24 18:49
(спустя 27 дней)
Торрент обновлён (2024-05-25)
|
|
|
|
spidergun
Стаж: 6 лет 7 месяцев Сообщений: 103
|
spidergun ·
29-Июн-24 17:46
(спустя 1 месяц 3 дня)
Торрент обновлён (2024-06-29)
|
|
|
|
juzver143
Стаж: 15 лет 7 месяцев Сообщений: 97
|
juzver143 ·
24-Июл-24 02:16
(спустя 24 дня, ред. 24-Июл-24 02:16)
Здравствуйте! Нет ли архива за апрель 2023? Хотелось бы взглянуть на исходную версию одной раздачи
upd: кажется, сам нашёл, btdig велик.
|
|
|
|
spidergun
Стаж: 6 лет 7 месяцев Сообщений: 103
|
spidergun ·
03-Авг-24 13:31
(спустя 10 дней)
Торрент обновлён (2024-08-03)
|
|
|
|
juzver143
Стаж: 15 лет 7 месяцев Сообщений: 97
|
juzver143 ·
05-Авг-24 14:10
(спустя 2 дня)
spidergun писал(а):
85860358
Цитата:
Можно по запросу для себя персонально запросить вообще всё в том же виде, но с удалёнными за всё время?
Я же написал - скачайте один из старых дампов, любой с января по ноябрь 2023. Я думаю, сиды ещё есть, особенно на ноябрьском.
Кстати, а есть способ их найти, не обращаясь к сторонним ресурсам? Я научился только из скачанного дампа извлекать magnet предыдущего, но для этого приходится целиком скачивать все дампы.
|
|
|
|
trudja
Стаж: 11 лет 5 месяцев Сообщений: 61
|
trudja ·
06-Авг-24 23:08
(спустя 1 день 8 часов)
Есть ли где-то подробное руководство, как пользоваться программой InfoTor 2? Что-то не работает у меня. Даже не запускается. Питон установлен.
|
|
|
|
