|
|
|
grey_rat
Стаж: 15 лет 6 месяцев Сообщений: 1241
|
grey_rat ·
31-Май-11 13:35
(13 лет 10 месяцев назад, ред. 31-Май-11 13:48)
В интернете не очень давно появился поисковый сайт http://btdigg.org/
Суть его в том , что он обрабатывает DHT запросы и выводит магнет-ссылки с названием торрента , его содержимым по файлам и с указанием размеров каждого файла .
Вот описание технологии авторами http://btdigg.org/api_popularity.html и http://btdigg.org/about.html
На сайте есть окошко обратной связи http://btdigg.org/contacts
Может быть есть среди нас программисты и люди хорошо владеющие английским языком ? Было бы не плохо связаться с разработчиками и попробывать уговорить их совместно сделать маленькую программу для установки её на компьютеры пользователей . Тоесть , что бы можно было искать не только через этот сайт , но и сделать поиск торрентов полностью децентрализованным (компьютер - компьютер) .
Отпишитесь , кто желает и может поучавствовать в этой затее 
|
|
|
|
MappingOrgUa
Стаж: 17 лет 2 месяца Сообщений: 9813
|
MappingOrgUa ·
31-Май-11 16:21
(спустя 2 часа 45 мин.)
grey_rat писал(а):
Было бы не плохо связаться с разработчиками и попробывать уговорить их совместно сделать маленькую программу для установки её на компьютеры пользователей . Тоесть , что бы можно было искать не только через этот сайт , но и сделать поиск торрентов полностью децентрализованным (компьютер - компьютер) .
Искать по DHT или с использованием базы сайта? К сожалению, по DHT очень долго искать будет. Нужно фактически запрашивать информацию о всех существующих раздачах, а потом сравнивать названия. DHT заточена под поиск по хешу, тогда получается относительно быстро. А вот по названию будет очень долго... Сайт же ищет быстро, потому что у него в базе уже записана информация о тысячах или даже миллионах разных раздач.
|
|
|
|
inboxpm
Стаж: 17 лет 5 месяцев Сообщений: 522
|
inboxpm ·
31-Май-11 16:27
(спустя 6 мин.)
Цитата:
Сайт же ищет быстро, потому что у него в базе уже записана информация о тысячах или даже миллионах разных раздач.
Да, похоже, они заранее индексируют все раздачи какие видят - своеобразный DHT-гугл. По скорости можно сравнивать с распределённым поиском EMule+Kad - результаты вылазят постепенно в течение нескольких минут, и часто то что нужно находится далеко не с первого раза.
|
|
|
|
MappingOrgUa
Стаж: 17 лет 2 месяца Сообщений: 9813
|
MappingOrgUa ·
31-Май-11 16:40
(спустя 13 мин.)
Так eMule ещё заточен под это, а как с торентом быть - понятия не имею. Каждый пир по идее должен хешировать не только секции info, но и имя раздачи, а также всех файлов и осуществлять поиск ещё и по ним. Тогда можно добиться приемлемой скорости (в пределах нескольких минут). А так я боюсь это может растянутся на сутки..
|
|
|
|
inboxpm
Стаж: 17 лет 5 месяцев Сообщений: 522
|
inboxpm ·
31-Май-11 16:43
(спустя 2 мин.)
Вот потому они и индексируют все видимые раздачи заранее, как обычные поисковики индексируют все видимые страницы.
|
|
|
|
MappingOrgUa
Стаж: 17 лет 2 месяца Сообщений: 9813
|
MappingOrgUa ·
31-Май-11 17:01
(спустя 18 мин.)
Конечно можно сделать распределённую таблицу хешей названий и искать по ней, но тогда нужно, чтоб этой программой пользовались все или почти все пользователи торрента. Иначе она будет малоэффективной 
|
|
|
|
grey_rat
Стаж: 15 лет 6 месяцев Сообщений: 1241
|
grey_rat ·
31-Май-11 17:12
(спустя 11 мин., ред. 31-Май-11 17:21)
Цитата:
Сайт же ищет быстро, потому что у него в базе уже записана информация о тысячах или даже миллионах разных раздач
Нет , походу записывается автоматически (и хранится несколько дней), помимо хеша каким-то образом из DHT достаётся вся инфа торрента . http://btdigg.org/ по сайтам не ищет .
Ради эксперимента можно создать торрент , включить DHT на несколько дней и посмотреть найдёт он его или нет .
|
|
|
|
MappingOrgUa
Стаж: 17 лет 2 месяца Сообщений: 9813
|
MappingOrgUa ·
31-Май-11 17:15
(спустя 3 мин.)
Ну правильно. На сервере есть поисковый робот, как у гугла, только для торрентов. Он скачивает информацию о всех подряд раздачах, которые находит в DHT, и индексирует их. И во время поиска на сайте, он ищет уже не в DHT, а в своей базе. Так намного быстрее.
|
|
|
|
grey_rat
Стаж: 15 лет 6 месяцев Сообщений: 1241
|
grey_rat ·
31-Май-11 17:23
(спустя 8 мин., ред. 31-Май-11 17:23)
И кстати комп пользователя так же может собирать такую инфу когда будет в инете и записывать её в отдельный файл . В DC++ все файлы так и хешируются , файлик с хешами получается не таким уж и большим
Цитата:
. Он скачивает информацию о всех подряд раздачах, которые находит в DHT, и индексирует их
получается что в DHT запросах присутсвует не только инфохеш ?
|
|
|
|
MappingOrgUa
Стаж: 17 лет 2 месяца Сообщений: 9813
|
MappingOrgUa ·
31-Май-11 17:26
(спустя 3 мин.)
В запросах только хеш. В ответах всё остальное. Именно поэтому и сложно искать по имени в DHT.
|
|
|
|
grey_rat
Стаж: 15 лет 6 месяцев Сообщений: 1241
|
grey_rat ·
31-Май-11 17:33
(спустя 7 мин.)
Цитата:
В запросах только хеш. В ответах всё остальное. Именно поэтому и сложно искать по имени в DHT
так , получается парадокс В данном случае поисковая машина не отправляет DHT запросы , а лишь их получает . Вот кстати и график вроде тому подтверждение http://btdigg.org/api_popularity.html .
Если в DHT запросе нет другой инфы кроме хеша , тогда получается что btdigg.org скачивает все торренты со всех DHT запрсов - что логически думаю выглядит как нонсенс !
|
|
|
|
MappingOrgUa
Стаж: 17 лет 2 месяца Сообщений: 9813
|
MappingOrgUa ·
31-Май-11 17:47
(спустя 13 мин.)
grey_rat писал(а):
Если в DHT запросе нет другой инфы кроме хеша , тогда получается что btdigg.org скачивает все торренты со всех DHT запрсов - что логически думаю выглядит как нонсенс
Так и есть. Но не сами файлы, а только информацию о них.
скрытый текст
Фактически то, что содержится в секции files секции info в файле *torrent. Вот структура типичного торрент-файла:
Код:
{
announce: http://bt3.rutr.life/ann?uk=passkey
announce-list:
{
{
http://bt3.rutr.life/ann?uk=passkey
}
{
http://retracker.local/announce
}
{
http://ix3.rutracker.net/ann?uk=passkey
}
}
comment: http://rutr.life/forum/viewtopic.php?t=3586567
creation date: 1306290744
encoding: UTF-8
info:
{
files:
{
{
length: 1121164617
path:
{
MagOS_2010.2_20110522.tar.gz
}
}
{
length: 63
path:
{
MagOS_2010.2_20110522.tar.gz.md5
}
}
}
name: MagOS_2010.2_20110522
piece length: 1048576
pieces: [хеши частей]
private: 0
}
publisher: rutr.life
publisher-url: http://rutr.life/forum/viewtopic.php?t=3586567
}
Вот секцию files он и получает после запроса с info_hash.
Для этого не нужн окачать мегабайты и гигабайты... Напрмиер когда качаешь через magnet ссылку, то в списке файлов пусто до тех пор, пока клиент не найдёт хотя бы одного пира. Вот от него он и получает список файлов.
|
|
|
|
grey_rat
Стаж: 15 лет 6 месяцев Сообщений: 1241
|
grey_rat ·
31-Май-11 18:02
(спустя 15 мин.)
Теперь понятно
Скорее всего тогда получается так :
При первом DHT запросе , с искомым хешем хххх , поисковая машина делает запрос на какой-либо компьютер и запрашивает у него данные по принципу магнет ссылки . Получив данные по хешу хххх больше из компьютеров никто не опрашивается , а лишь считается количество вновь поступивших запросов (отсюда вырисовывается график этих самых запросов) .
По идее такое же можно организовать и на компьютере пользователей
Инфа собирается как я написал выше в файл и при обращении другого такого же пользователя можно сделать так , что бы он делился своими записями из этого файла . Идея думаю не плоха в теории
|
|
|
|
MappingOrgUa
Стаж: 17 лет 2 месяца Сообщений: 9813
|
MappingOrgUa ·
31-Май-11 18:07
(спустя 4 мин.)
Да, но она будет работать только если участников будет много. В принципе, встраивание такого поиска в популярные торрент-клиенты решит эту проблему. Со свободными это можно провернуть, а вот как быть с uTorrent и ему подобными? Только связываться с разработчиками.
|
|
|
|
grey_rat
Стаж: 15 лет 6 месяцев Сообщений: 1241
|
grey_rat ·
31-Май-11 18:26
(спустя 18 мин., ред. 31-Май-11 18:26)
Разработчик не почивает на лаврах , периодически отписывается в твиттере и фейсбуке
http://twitter.com/#!/btdigg
http://www.facebook.com/pages/BTDigg/144227338974244
27 мая последняя запись
Сделал плагины на браузеры http://btdigg.org/plugins/browser_plugin.html и qBittorrent http://btdigg.org/plugins/qbittorrent_plugin.html
К utorrent можно сделать плагин для App , разработчики utorrent не должны по идее сопротивляться , а наоборот посодействуют .
Можно попытать счастья с ним связаться - шансы , что его заинтересует наша идея думаю велики , но нужен человек , который смог бы через нас с ним общаться на английском .
|
|
|
|
MappingOrgUa
Стаж: 17 лет 2 месяца Сообщений: 9813
|
MappingOrgUa ·
31-Май-11 18:37
(спустя 11 мин.)
Я имею ввиду разработчиков uTorrent, а не btdigg. И плагин не годится, эта функциональность должна быть в каждой системе. Даже если человек этим не пользуется, его система может быть промежуточным узлом, а также хранить часть базы. Ну как в DHT...
|
|
|
|
grey_rat
Стаж: 15 лет 6 месяцев Сообщений: 1241
|
grey_rat ·
31-Май-11 18:57
(спустя 19 мин.)
А если в начале попытаться сделать её как отдельную программу , а потом продвигать её в торрент-клиенты . Сразу добиться всего не получится , надо начинать хотя бы с того что реально сделать можно .
|
|
|
|
MappingOrgUa
Стаж: 17 лет 2 месяца Сообщений: 9813
|
MappingOrgUa ·
31-Май-11 19:38
(спустя 41 мин.)
Так в том-то и дело, что сделать то можно, но работать без достаточного кол-ва участников сеть будет плохо.
|
|
|
|
grey_rat
Стаж: 15 лет 6 месяцев Сообщений: 1241
|
grey_rat ·
31-Май-11 21:41
(спустя 2 часа 2 мин.)
Замкнутый круг ....
Остался последний вариант
В программе будет два варианта выбора поиска
1 Через сайт http://btdigg.org/
2 Через p2p сеть bittorent
Пока народ будет юзать поиск в основном через http://btdigg.org/ , а когда настанут "тёмные времена" ....
MappingOrgUa, у меня уже аргументы закончились , это последний
|
|
|
|
MappingOrgUa
Стаж: 17 лет 2 месяца Сообщений: 9813
|
MappingOrgUa ·
31-Май-11 21:54
(спустя 13 мин.)
И он пожалуй самый реальный.
|
|
|
|
Mmaksla
Стаж: 16 лет 8 месяцев Сообщений: 304
|
Mmaksla ·
31-Май-11 23:33
(спустя 1 час 38 мин.)
Цитата:
Пока народ будет юзать поиск в основном через http://btdigg.org/ , а когда настанут "тёмные времена" ....
Получаем существующие яица, только в профиль. Слабое звено - работающий сервер. Необходимо надежно защищать сервак от юридических атак копирайтеров. А если вопрос в этом, на этом же уровне можно защитить и существующие торрент-серваки.
|
|
|
|
MappingOrgUa
Стаж: 17 лет 2 месяца Сообщений: 9813
|
MappingOrgUa ·
01-Июн-11 00:58
(спустя 1 час 24 мин.)
В прицнипе за магнитные ссылки закрыть сложно.. это же просто текст.
|
|
|
|
Mmaksla
Стаж: 16 лет 8 месяцев Сообщений: 304
|
Mmaksla ·
01-Июн-11 01:03
(спустя 5 мин.)
Формально и нынешний торрент-сервак не хранит в себе ворованный контент и не является ничем иным, как набором просто текстовых постов с картинками.
|
|
|
|
MappingOrgUa
Стаж: 17 лет 2 месяца Сообщений: 9813
|
MappingOrgUa ·
01-Июн-11 04:10
(спустя 3 часа, ред. 01-Июн-11 04:10)
В принципе согласен. И для меня довольно странно, что трекеры закрывают. Ни формально, ни уж тем более с точки зрения справедливости, это причин для этого нет. Имя файла (его содержит торрент) не может быть причиной. А подкопаться больше и не к чему.
|
|
|
|
grey_rat
Стаж: 15 лет 6 месяцев Сообщений: 1241
|
grey_rat ·
01-Июн-11 14:29
(спустя 10 часов, ред. 01-Июн-11 14:29)
Цитата:
Получаем существующие яица, только в профиль. Слабое звено - работающий сервер. Необходимо надежно защищать сервак от юридических атак копирайтеров. А если вопрос в этом, на этом же уровне можно защитить и существующие торрент-серваки.
На данный момент сервак пригодится для набора критической массы пользователей этой программы . А когда прикроют сервак и остальные торрент-трекеры останется только поиск через p2p .
Что там на трекере торрент или магнет не важно , в своё время с ослосетями тоже боролись и порталы аля рутрекер закрывались . Тут как бы момент в том , как будет происходить файлообмен если закроют рутрекер и ещё несколько десятков крупных и средних торрент-трекеров ? Вспомните истерию даже в этом разделе форума когда отобрали домен torrents.ru . Пока сейчас всё устаканилось , но это лишь пока
Я уже рассуждаю так , как будто автор того сайта уже работает над нашей идеей 
|
|
|
|
grey_rat
Стаж: 15 лет 6 месяцев Сообщений: 1241
|
grey_rat ·
08-Июн-11 20:54
(спустя 7 дней)
В американской ветке провайдеров , куда я зашёл за помощью найти переводчика , привели факты из истории, когда в ослосетях под нужной шарой скрывали порнуху и прочий фейк . Тоесть если нет модерации - можно скачать всё что угодно . Так копирасты могут специально зафлуживать DHT сеть .
|
|
|
|
MappingOrgUa
Стаж: 17 лет 2 месяца Сообщений: 9813
|
MappingOrgUa ·
08-Июн-11 21:37
(спустя 42 мин.)
Это да. Поэтмоу нужно внести возможность оставлять комментарии к раздачам, которые также будут храниться в распределённой сети, а значит у релизера не будет возможности их удалить. И если раздача - фейк, то это быстро будет обнаружено. Хотя здесь конечно появляется другая опасность: так копирасты смогут на что угодно писать "фейк". Вобщем, проблема всё равно остаётся...
|
|
|
|
Louigi Verona
Стаж: 16 лет 5 месяцев Сообщений: 91
|
Louigi Verona ·
09-Июн-11 10:23
(спустя 12 часов)
Мне кажется, что не смогут. Писать к каждой раздаче фейк - таких пользователей быстро вычислят. Создаются чёрные листы айпишников и прочее. Самоорганизующийся социум гораздо более живуч, чем кажется.
|
|
|
|
grey_rat
Стаж: 15 лет 6 месяцев Сообщений: 1241
|
grey_rat ·
09-Июн-11 12:23
(спустя 1 час 59 мин., ред. 09-Июн-11 12:23)
Цитата:
Писать к каждой раздаче фейк - таких пользователей быстро вычислят. Создаются чёрные листы айпишников и прочее.
Чёрные списки IP - за рамками DHT протокола . Комментарии можно писать уже в 3.0 версии utorrent . Вычислить таких пользователей не реально , тем более если IP динамические ...
Вобщем для начала тогда , нужно попросить автора http://btdigg.org/ прикрутить на его сайт модуль сбора сообщений реализованный в utorrent 3.0 . А там уже видна будет перспектива всего остального .
Кстати вот пример фейковой шары http://btdigg.org/search?info_hash=4ca6a6472409a5350e63a1d728199a45d850da77&q...r%20One%20S01E04
Эксперимента ради решил качнуть сию раздачу и посмотреть что из себя представляют эти файлы
На основном компе стоит utorrent 3.0 - почемуто при первых килобайтах закачки вылетела ошибка . Тогда я перенёс магнет на торрент-качалку ( utorrent 2.2.1 ). Скачалось 4 мб , перекинул папку на основной комп , но касперыч забраковал все файлы вобщем под этими файлами скрываются троянчики "Generik" .
Сейчас гоняю антивирусами торрент-качалку (на которой изначально антивирус вырублен был ) и основной комп , надеюсь последствий эксперимента не останется
Вроде где-то встречал что писали , мол MediaGet - это клиент с чёрным списком IP правообладателей , так вот все с кого я успел скачать эти 4 мб были с MediaGet
|
|
|
|
spektrum011277
Стаж: 14 лет 3 месяца Сообщений: 95
|
spektrum011277 ·
15-Июл-11 13:42
(спустя 1 месяц 6 дней)
grey_rat писал(а):
Цитата:
Сайт же ищет быстро, потому что у него в базе уже записана информация о тысячах или даже миллионах разных раздач
Нет , походу записывается автоматически (и хранится несколько дней), помимо хеша каким-то образом из DHT достаётся вся инфа торрента . http://btdigg.org/ по сайтам не ищет .
Ради эксперимента можно создать торрент , включить DHT на несколько дней и посмотреть найдёт он его или нет .
Идея хорошая!
|
|
|
|
