[ итог ]
[ Опрос завершён ]
Всего проголосовало:
|
|
|
gamchenko
Стаж: 17 лет 6 месяцев Сообщений: 4
|
gamchenko ·
29-Дек-08 11:32
(16 лет 10 месяцев назад, ред. 29-Дек-08 11:45)
Господа администраторы, почему бы не ввести поиск по хеш, который многим, несомненно облегчит жизнь? Например, я качал в своей местной сети сборник песен, местный сидер куда-то делся, а я пару часов убил на поиск нужного сборника на трекере. И это притом, что я приблизительно знал его название! Вот как было проще, если по хешу одной из скаченных мной песен я быстро нашёл бы весь сборник. Я не в курсе как устроена сама БД трекера, но торрент файлы содержат в себе SHA-1 хеши всех файлов входящих в раздачу (так?), так почему бы и не смастерить поиск в них (ведь торрент файлы хранятся на трекере) или запихать эти хеши со ссылками на топики, где лежат торрент файлы в отдельную таблицу БД и позволить в ней поиск? Отпишитесь, пожалуйста, возможно или нет такое дело?
|
|
|
|
Meithar
Стаж: 20 лет 8 месяцев Сообщений: 5444
|
Meithar ·
29-Дек-08 13:11
(спустя 1 час 38 мин.)
gamchenko писал(а):
Вот как было проще, если по хешу одной из скаченных мной песен я быстро нашёл бы весь сборник
то было бы очень полезно и для модераторов, но обычно в торенте есть только хеш всех файлов
по нему поиск может быть когда-нить и будет
|
|
|
|
tosiara
Стаж: 19 лет Сообщений: 34
|
tosiara ·
29-Дек-08 13:23
(спустя 11 мин.)
Да, поиск по инфо-хешу торент-файла было бы супер
а если ещё и поиск по хешам файлов внутри торента - ваще сказка была бы!
ну а поддержка разных хешей - DC++, eMule и прочих - предел мечтаний 
|
|
|
|
gamchenko
Стаж: 17 лет 6 месяцев Сообщений: 4
|
gamchenko ·
29-Дек-08 22:33
(спустя 9 часов, ред. 29-Дек-08 22:33)
Meithar писал(а):
gamchenko писал(а):
Вот как было проще, если по хешу одной из скаченных мной песен я быстро нашёл бы весь сборник
то было бы очень полезно и для модераторов, но обычно в торенте есть только хеш всех файлов
по нему поиск может быть когда-нить и будет
Отнюдь, если бы в торрент-файле был хеш всех файлов, то все торрент файлы были бы одного размера (SHA-1 хеш - это 20 байт) и передача ошибочного блока была бы невозможна. Это спецификация торрент файлов с http://wiki.theory.org/BitTorrentSpecification
Info Dictionary
This section contains the field which are common to both mode, "single file" and "multiple file".
piece length: number of bytes in each piece (integer)
pieces: string consisting of the concatenation of all 20-byte SHA1 hash values, one per piece (byte string)
скрытый текст
Информация о папке
Эта секция содержит поля, которые присутствуют в *.torrent-файле как с "одним файлом", так и с "множеством файлов"
длина куска: число байтов в одном куске (тип : Integer)
куски: строка состоящая из последовательности всех 20 байтных SHA-1 хешей, что идут один за одним (тип : последовательность байтов)
На точность перевода - не претендую, понятно, что lostFilm круче переведёт 
Тоесть мы узнаём вот это
также среди метаданных торрент файла содержится и хеш всего (всех) файла(ов), который мы тоже можем видеть.
Итак, возможно ли реализовать поиск по хешу?...
И вообще, кто-нибудь из модеров/юзеров/админов интересовался содержимым метаданных торрент файла? Отпишитесь, кто что знает, кинте ссылки на русскую инфу (во избежание флуда лучше в личку)
|
|
|
|
House M.D.
Стаж: 20 лет 7 месяцев Сообщений: 4130
|
House M.D. ·
30-Дек-08 12:43
(спустя 14 часов)
gamchenko
Да, в торренте хранится SHA1 частей файла. Но, воссоздать SHA1 самого файла по этим суммам нельзя (не скачав его).
Там-же (по ссылке) есть более интересный фрагмент:
Цитата:
Info in Multiple File Mode
For the case of the multi-file mode, the info dictionary contains the following structure:
name: the filename of the directory in which to store all the files. This is purely advisory. (string)
files: a list of dictionaries, one for each file. Each dictionary in this list contains the following keys:
length: length of the file in bytes (integer)
md5sum: (optional) a 32-character hexadecimal string corresponding to the MD5 sum of the file. This is not used by BitTorrent at all, but it is included by some programs for greater compatibility.
path: a list containing one or more string elements that together represent the path and filename. Each element in the list corresponds to either a directory name or (in the case of the final element) the filename. For example, a the file "dir1/dir2/file.ext" would consist of three string elements: "dir1", "dir2", and "file.ext". This is encoded as a bencoded list of strings such as l4:dir14:dir28:file.exte
В торренте могут лежать md5 суммы файлов (sic!). Для торрент клиента они не нужны. Они нужны для какой-то мифической совместимости, и нам для поиска. Но, не все программы создающие торрент будут добавлять md5, это необязательная часть.
Тут без эксперимента не обойтись.
Есть файл "Trans-Siberian Orchestra - Beethoven's Last Night.ape"
md5: 65299923725FFF910AFA597704515A24
SHA1: 72A418A805E91CCCBBCC1F2E6E27D8736B6A9E07
На трекере есть торрент содержащий этот файл: https://rutr.life/forum/download.php?id=600726
Поиск md5 и SHA1 по торренту ничего не даёт.
Т.е. Для поиска по хэшу нужно всех пересаживать на торрент билдер вставляющий md5 (+перебилд всех торрентов).
З.Ы. Есть выход попроще, в описании раздачи (или в любом комменте) добавить md5 файлов.
|
|
|
|
4get
Стаж: 18 лет 11 месяцев Сообщений: 779
|
4get ·
30-Дек-08 17:39
(спустя 4 часа, ред. 30-Дек-08 18:07)
gamchenko
Напрасно не пользуетесь поиском, эта тема всплывает уже который год, каждый раз приходится обьяснять одно и то же - невозможно, поскольку такой хеш не создается. То же самое, что House M.D. сейчас повторил.
Пример год назад  Предлагаю указывать хеш от файла и размер файла с точностью до байта [Повтор] + Чей хеш показывает uTorrent ? [Решено: инфохеш торрент-файла]
Есть исключение - если файл в торренте один и его размер <= размера блока. Либо вообще при совпадении границ файла с границами блока. Но для системы такая случайность не пригодится
gamchenko писал(а):
торрент файлы содержат в себе SHA-1 хеши всех файлов входящих в раздачу (так?)
Грубо упрощаете и это привело к заблуждению.
gamchenko писал(а):
также среди метаданных торрент файла содержится и хеш всего (всех) файла(ов), который мы тоже можем видеть.
Мы не можем его видеть на этом скриншоте.
Строка "Хеш" это хеш от info-секции торрента. То есть хеш от bencoded-последовательности [название файла/файлов + хеш содежимого файлов + прочие произвольные параметры в info-секции]. Этот хеш не хранится внутри торрента, но считается самим торрент-клиентом или трекером.
upd
House M.D. писал(а):
В торренте могут лежать md5 суммы файлов (sic!). Для торрент клиента они не нужны.
В торренте может лежать что угодно, не запретишь =) Торрент-клиенты бывают разные, например Shareaza это гибрид нескольких p2p сетей и умеет считывать из торрент-файлов ed2k и tiger хеши.
House M.D. писал(а):
Тут без эксперимента не обойтись.
Гораздо нагляднее пользоваться http://torrentspy.sourceforge.net/ или http://sourceforge.net/projects/torrentloader/ или BEncode Editor http://forum.utorrent.com/viewtopic.php?id=31306
Достаточно посмотреть, что в секции info нет никаких дополнительных параметров. Либо наоборот есть
|
|
|
|
greyeyes
Стаж: 17 лет 5 месяцев Сообщений: 58
|
greyeyes ·
02-Янв-09 00:05
(спустя 2 дня 6 часов)
возможность поиска по хешу, как бы она ни была реализована - 100% полезна.
пара примеров.
у меня есть фильм bloodrayne, на трекере через поиск я нахожу раздачу и сидирую её.
у меня есть полфильма "идентификация борна" (с другого источника, допустим рапиды), я использую поиск, нахожу по хешу фильм и докачиваю его.
|
|
|
|
House M.D.
Стаж: 20 лет 7 месяцев Сообщений: 4130
|
House M.D. ·
02-Янв-09 01:14
(спустя 1 час 9 мин.)
greyeyes
Возможен только поиск по инфохэш. Это означает что при любом отличии в названии файла, или при изменении состояния флага "private" такой поиск будет бесполезен, т.к. всё это меняет инфохэш (не говоря уж о наличии в раздаче того-же фильма сэмплов, скринов и т.п.).
З.Ы. В подобных случаях будет полезен поиск по размеру файла. Тут уже вопрос к Meithar, насколько это реализуемо. Теоретически всё ОК, но нужно будет перечитывать все торренты в поиске нужного размера.
|
|
|
|
X-Disa
Стаж: 17 лет 5 месяцев Сообщений: 7
|
X-Disa ·
02-Янв-09 21:58
(спустя 20 часов, ред. 02-Янв-09 21:58)
В идеале, это должна быть отдельная программа.
Я например скармливаю ей свои несколько сот гигабайт аниме, она их хеширует аналогично торрент-клиентам, производит поиск на трекере этих файлов, ищет раздачи, и ставит их в очередь торрент-клиента.
Плюсы очевидны, гораздо проще начать сидировать «в один клик» и поднимать рейтинг с одной стороны, и значительное повышение скорости скачки с другой.
|
|
|
|
KyberPrizrak
Стаж: 18 лет Сообщений: 45
|
KyberPrizrak ·
03-Янв-09 01:27
(спустя 3 часа, ред. 03-Янв-09 01:27)
Скажите, внутри torrent-файла ведь есть список файлов и их размер с точностью до байта?
если да, то может сделать поиск по маска имени + размер? это не так эффективно (одинаковое имя и размер не гарантируют что файлы одинаковые), но зато это сможет одним кликом выделить из тысячи раздач, десяток, в которых уже вручную капатся где что
|
|
|
|
tosiara
Стаж: 19 лет Сообщений: 34
|
tosiara ·
05-Янв-09 13:09
(спустя 2 дня 11 часов)
House M.D. писал(а):
Возможен только поиск по инфохэш
Как раз инфохеш менее полезен из всех, потому что, правильно замечено, изменение имени файла приводит к изменению всего инфохеша.
Но есть отличный пример пиринга, когда имя файла не влияет на хеш самого файла - DC++. DC всегда найдёт альтернативный источник файла, даже если имя файла изменилось.
Давайте рассмотрим пример такой реализации для торрента.
скрытый текст
Имеем торрент файл, в котором раздаётся один файлик test.avi (129КБ)
В торрент файле он прохеширован кусочками по 64Кб. Получаем три SHA1 хеша (утрировано):
1111111111111
2222222222222
3333333333333
Выстраиваем эти строки последовательно и считаем контрольную сумму - любую MD5, SHA1... Получаем абстрактный хеш конкретного одного файла - 4444444444444.
Тому, кто захочет найти этот файл на трекере, придётся лишь посчитать несколько таких сумм на случай разбиения разными размерами кусочков. Ну пусть это даже будет 10 разный хешей: 5555555, 444444, 66666..... - один из них полюбому выведет на нужный.
Короче говоря, поиск по хешам файлов вполне реален.
Нужно только заставить трекер складывать вместе хеши кусочков, вычислять хеш такой последовательности и складывать всю эту инфу. А на клиентской стороне - програмулинка, которая будет генерировать абстрактный хеш файла для всевозможных размеров кусочка.
Это моё ИМХО, так сказать.
|
|
|
|
Whisper-JS
Стаж: 17 лет 4 месяца Сообщений: 768
|
Whisper-JS ·
05-Янв-09 14:13
(спустя 1 час 4 мин., ред. 05-Янв-09 14:13)
tosiara писал(а):
Нужно только заставить трекер складывать вместе хеши кусочков, вычислять хеш такой последовательности и складывать всю эту инфу
При миллионе торрентов и регулярно появляющихся новых, по-моему, это слишком. Будем надеяться на увеличение мощностей...
|
|
|
|
House M.D.
Стаж: 20 лет 7 месяцев Сообщений: 4130
|
House M.D. ·
05-Янв-09 16:12
(спустя 1 час 59 мин., ред. 05-Янв-09 16:16)
tosiara
Не поможет, т.к. перед test.avi у нас в торренте лежит абстрактный cover.jpg. Первый SHA1 посчитан сразу по двум файлам. И все остальные хэши тоже не имеют поискового смысла, потому что отсчёт пошел не с начала файла.
|
|
|
|
sirwalrus
Стаж: 18 лет Сообщений: 866
|
sirwalrus ·
05-Янв-09 17:24
(спустя 1 час 11 мин.)
Блин я сначала прочитал тему как "ПОИСК ПО ФЕНШУЮ"  эх праздники:)
|
|
|
|
tosiara
Стаж: 19 лет Сообщений: 34
|
tosiara ·
05-Янв-09 22:33
(спустя 5 часов)
House M.D. писал(а):
Не поможет, т.к. перед test.avi у нас в торренте лежит абстрактный cover.jpg
правда ваша
при чём если эти два файла в другом порядки запихнуть в торрент файл - все суммы изменятся...
|
|
|
|
Amaus
Стаж: 18 лет 9 месяцев Сообщений: 194
|
Amaus ·
05-Янв-09 23:23
(спустя 50 мин.)
House M.D. писал(а):
З.Ы. В подобных случаях будет полезен поиск по размеру файла. Тут уже вопрос к Meithar, насколько это реализуемо. Теоретически всё ОК, но нужно будет перечитывать все торренты в поиске нужного размера.
Поиск по хэшу был бы реально полезной функцией, в том числе против дублирования раздач, то поиск по размеру (это тоже в каком-то смысле хэш) остается самым разумным вариантом. Модераторам наверняка полезно было бы иметь такой инструмент, чтобы легче отлавливать повторы.
|
|
|
|
DJ_Grigorev
Стаж: 17 лет 1 месяц Сообщений: 6
|
DJ_Grigorev ·
19-Фев-09 23:11
(спустя 1 месяц 13 дней)
блин, перерыл большуючасть интернета, не могу понять, дайте мне название программы, которая бы вычисляла хеш файла, чтобы можно было сравнить с данными по этому же хешу на трекере, не скачивая файл (лучше в личку, я забуду как вернуться в эту тему)
|
|
|
|
4get
Стаж: 18 лет 11 месяцев Сообщений: 779
|
4get ·
19-Фев-09 23:54
(спустя 43 мин.)
DJ_Grigorev писал(а):
не могу понять
Очень просто - в битторренте не используются хеши целиком файла. Для того чтобы сравнить файл в торренте и у вас - придется воспроизвести условия при которых был создан торрент.
DJ_Grigorev писал(а):
дайте мне название программы, которая бы вычисляла хеш файла
В битторренте нет хешей файлов.
DJ_Grigorev писал(а):
чтобы можно было сравнить
А это может почти любой битторрент-клиент - скачиваете торрент, указываете на ваш файл (а лучше на его копию), запускаете перехеширование и клиент вам покажет какие блоки в файле совпали, а какие нет.
|
|
|
|
DJ_Grigorev
Стаж: 17 лет 1 месяц Сообщений: 6
|
DJ_Grigorev ·
20-Фев-09 21:40
(спустя 21 час)
не ну все же есть же программы типа Torrent Hash Extractor, которые выдергивают этот самый хеш, есть magnet-ссылки по которому utorrent и пр. могут искать. На некоторых трекерах в раздаче указывается.
Ах да, вот еще кусочек текста с википедии по поводу magnet именно для торрента
Цитата:
BTIH (BitTorrent Info Hash)
Хеш используется в сетях BitTorrent(Azureus,uTorrent)
xt=urn:btih:[ BitTorrent инфо хеш (Base32) ]
Можно его вычислить спомощью таких вот махинаций: создать файл .torrent, с помощью Torrent Hash Extractor получить из него этот самый хеш. Но это не очень-то удобно каждый раз повторять
|
|
|
|
4get
Стаж: 18 лет 11 месяцев Сообщений: 779
|
4get ·
20-Фев-09 23:07
(спустя 1 час 27 мин.)
DJ_Grigorev писал(а):
есть magnet-ссылки
DJ_Grigorev писал(а):
BitTorrent Info Hash
Ещё раз - это не хеш файла внутри торрента. Это хеш самого торрента, точнее его info-секции.
Любое изменение в имени файла и Info Hash будет другим. Добавление/удаление/перестановка файлов местами - Info Hash будет другим. Любая добавка в info-секцию (например флаг "private" или рекламная строка с названием трекера) и Info Hash будет другим.
В битторренте нет способа найти сразу все места, где раздается один и тот же файл. Одна из причин, по которой битторрент до сих пор жив.
|
|
|
|
DJ_Grigorev
Стаж: 17 лет 1 месяц Сообщений: 6
|
DJ_Grigorev ·
20-Фев-09 23:09
(спустя 1 мин.)
4get, большое спасибо за объянение
|
|
|
|
kisnik
Стаж: 18 лет 2 месяца Сообщений: 9
|
kisnik ·
27-Фев-09 15:21
(спустя 6 дней)
4get писал(а):
DJ_Grigorev писал(а):
есть magnet-ссылки
DJ_Grigorev писал(а):
BitTorrent Info Hash
Ещё раз - это не хеш файла внутри торрента. Это хеш самого торрента, точнее его info-секции.
Да, это так. Тем не менее magnet легко получить по алгоритму из инфо хеш.
DJ_Grigorev писал(а):
Любое изменение в имени файла и Info Hash будет другим. Добавление/удаление/перестановка файлов местами - Info Hash будет другим. Любая добавка в info-секцию (например флаг "private" или рекламная строка с названием трекера) и Info Hash будет другим.
Что не способствует унификации по URI и тем более IRI. Зачем было смешивать SHA1 файла вместе с именами длинами и другими полями info-hash.
DJ_Grigorev писал(а):
В битторренте нет способа найти сразу все места, где раздается один и тот же файл. Одна из причин, по которой битторрент до сих пор жив.
Ну это думаю не очень важная причина.
И все таки по магниту в клиенте вполне достойно реализован и поиск и закачка посредством DHT
|
|
|
|
valuemanner
Стаж: 17 лет 5 месяцев Сообщений: 39
|
valuemanner ·
13-Апр-09 21:09
(спустя 1 месяц 14 дней, ред. 13-Апр-09 21:09)
Ребят, сделайте обычный поиск по инфо-хешу.
Цитата:
Любое изменение в имени файла и Info Hash будет другим. Добавление/удаление/перестановка файлов местами - Info Hash будет другим. Любая добавка в info-секцию (например флаг "private" или рекламная строка с названием трекера) и Info Hash будет другим.
При замене торрент-файла в теме серверу достаточно просто удалить старый инфо хеш и вставить в базу данных вместо него новый, который соответствует новому торрент файлу. Проще пирожка с капустой.
|
|
|
|
dmitrieve
Стаж: 16 лет 10 месяцев Сообщений: 4
|
dmitrieve ·
27-Июн-09 13:19
(спустя 2 месяца 13 дней)
+1
поиск по хэш-сумме торрента надо
особеннополезно для держателей ретрекеров, когда по хэшу можно найти раздачу на трекере, а не в гугле
|
|
|
|
Night Wanderer
Стаж: 17 лет Сообщений: 25
|
Night Wanderer ·
29-Июн-09 14:36
(спустя 2 дня 1 час)
Присоединяюсь к мнению тех, кто сказал "За". Хэш однозначно определяет раздаваемые файлы. На то он и хэш. Полезно будет и для модераторов, и для держателей ретрекеров. Для простых пользователей такая фича будет тоже полезна, но нужно будет опубликовать инструкцию, как правильно ей пользоваться
|
|
|
|
valuemanner
Стаж: 17 лет 5 месяцев Сообщений: 39
|
valuemanner ·
29-Июн-09 15:49
(спустя 1 час 12 мин., ред. 29-Июн-09 15:49)
А ещё лучше - писать хэш торрента в шапке темы каждой раздачи. Тогда можно будет находить раздачу через google.
К примеру, как на трекере streamzone: http://streamzone.ru/tracker/transformery-mest-padshih-transformers-revenge-of-th...9-ts-t18094.html
|
|
|
|
alpaca
Стаж: 18 лет Сообщений: 42
|
alpaca ·
30-Июн-09 23:48
(спустя 1 день 7 часов)
valuemanner писал(а):
А ещё лучше - писать хэш торрента в шапке темы каждой раздачи.
Зная хэш раздачи можно составить magnet-ссылку и с её помощью присоединиться к раздаче, даже если рейтинг не позволяет скачивать торрент-файлы (т.е. либо принудительно отключаем DHT во всех торрентах либо ограничение при рейтинге меньше 0.3 перестаёт работать).
valuemanner писал(а):
Тогда можно будет находить раздачу через google.
По-моему более продуктивно искать раздачи по названию. Ведь если при создании торрента изменится название хотя бы одного файла, а вместе с ним и хэш, то что вы будете искать в гугле?
|
|
|
|
mmajor
Стаж: 16 лет 11 месяцев Сообщений: 5
|
mmajor ·
14-Июл-09 09:05
(спустя 13 дней, ред. 14-Июл-09 09:05)
По моему нужно просто реализовать поиск по
info_hash, по именам файлов с размерами !!! - этого будет вполне достаточно !!!
Эти данные хоть хранятся в торрент файлах!
и это вполне реализуемо !
а все остальные виды хеширование не реализуемы ввиду отсутствия самих файлов с данными на трекере!!!
Или же для создания торрент файлов для нашего трекера разработать специальную программулину например "TorrnentCreatorMD5", чтоб она в разделе описание files дополнительно записывала md5 каждого файла, но тогда на всех раздачах придется обновить торренты их создателям с помощью этой проги.
И это тоже реально сделать
|
|
|
|
spiriak2
Стаж: 16 лет 6 месяцев Сообщений: 19
|
spiriak2 ·
31-Июл-09 16:50
(спустя 17 дней, ред. 01-Авг-09 08:36)
Полностью согласен со всеми поставившими этот вопрос ребром.Я тоже за поиск по инфохэшу.Всецело и полностью одобряю!И писать его надо так, чтобы все видели - в названии раздачи, в её описании или в следующем после оформленной раздачи сообщении.Всем новичкам это будет очень полезно для поднятия рейтинга.Скачал что-нибудь с другого трекера - поищи по хэшу и раздавай на торрентс.ру!
P.S.Такая разновидность поиска легко реализуема, если хэш на веб-странице будет представлен в виде текста(так же как и название фильма\игры\альбома).Главное, чтобы какой-нибудь умник не выложил инфохэш своей раздачи в виде скриншота(в таких случаях медицина бессильна!).Поэтому речь тут идёт собственно не о том, возможен ли поиск(а он, безусловно, возможен при должном оформлении раздачи со стороны пользователей ресурса), а о том как бы нам об этом с администрацией трекера договориться.
|
|
|
|
Nicka5
Стаж: 16 лет 4 месяца Сообщений: 12
|
Nicka5 ·
29-Ноя-09 17:05
(спустя 3 месяца 29 дней)
Цитата:
Главное, чтобы какой-нибудь умник не выложил инфохэш своей раздачи в виде скриншота(в таких случаях медицина бессильна!)
Для этого есть админы и правила.
А поиск по хэш действительно облегчит жизнь. Я присоединялся к 3-м раздачам, а на остальные (какие у меня были) у меня не хватало ни времени, ни терпения
|
|
|
|
