Обход для маршрутизаторов с OpenWRT

Страницы:  1
Ответить
 

NVV_RW

Top Bonus 05* 10TB

Стаж: 14 лет 6 месяцев

Сообщений: 196

NVV_RW · 05-Июн-19 22:06 (5 лет 5 месяцев назад, ред. 07-Июн-19 15:45)

В своё время на хабре умный человек запостил вот эту https://habr.com/ru/post/270657/ статью по обходу блокировок и некоторой автоматизации поддержания актуального состояния списка блокированных ресурсов. В связи с переходом api rublacklist и antizapret на протокол https, старый скрипт автообновления списка "небогоугодных" ресурсов больше не работает. Поэтому этот скрипт был обновлён с учётом новых реалий. Кроме новой версии скрипта в систему нужно будет доустановить пакеты luasec и wget (т.к. "родной" wget из BusyBox'а не имеет поддержки ssl). Что исправлено - конфиг тора сидит в /etc/tor/torrc, а не как указано в статье. Также в систему добавлен пакет dns-crypt, чтобы избежать подмены dns-запросов провайдером.
LUA-скрипты положил в /usr/lib/lua/
В секцию dnsmasq файла /etc/config/dhcp добавлено только list rebind_domain 'onion', т.к. list server уже был настроен для работы dns-crypt и его трогать не надо.
Исправленный скрипт - под катом.
скрытый текст
Код:
local config = {
    blSource = "antizapret", -- antizapret or rublacklist
    groupBySld = 32,
    neverGroupMasks = { "^%a%a%a?.%a%a$" },
    neverGroupDomains = { ["livejournal.com"] = true, ["facebook.com"] = true, ["vk.com"] = true },
    stripWww = true,
    convertIdn = true,
    torifyNsLookups = false,
    blMinimumEntries = 1000,
    dnsmasqConfigPath = "/etc/runblock/runblock.dnsmasq",
    ipsetConfigPath = "/etc/runblock/runblock.ipset",
    ipsetDns = "rublack-dns",
    ipsetIp = "rublack-ip",
    torDnsAddr = "127.0.0.1#9053"
}
local function prequire(package)
    local result, err = pcall(function() require(package) end)
    if not result then
        return nil, err
    end
    return require(package) -- return the package value
end
local idn = prequire("idn")
if (not idn) and (config.convertIdn) then
    error("you need either put idn.lua (github.com/haste/lua-idn) in script dir  or set 'convertIdn' to false")
end
local https = prequire("socket.https")
if not https then
    local ltn12 = require("ltn12")
end
if not ltn12 then
    error("you need either install luasocket package (prefered) or put ltn12.lua in script dir")
end
local function hex2unicode(code)
    local n = tonumber(code, 16)
    if (n < 128) then
        return string.char(n)
    elseif (n < 2048) then
        return string.char(192 + ((n - (n % 64)) / 64), 128 + (n % 64))
    else
        return string.char(224 + ((n - (n % 4096)) / 4096), 128 + (((n % 4096) - (n % 64)) / 64), 128 + (n % 64))
    end
end
local function rublacklistExtractDomains()
    local currentRecord = ""
    local buffer = ""
    local bufferPos = 1
    local streamEnded = false
    return function(chunk)
        local retVal = ""
        if chunk == nil then
            streamEnded = true
        else
            buffer = buffer .. chunk
        end
        while true do
            local escapeStart, escapeEnd, escapedChar = buffer:find("\\(.)", bufferPos)
            if escapedChar then
                currentRecord = currentRecord .. buffer:sub(bufferPos, escapeStart - 1)
                bufferPos = escapeEnd + 1
                if escapedChar == "n" then
                    retVal = currentRecord
                    break
                elseif escapedChar == "u" then
                    currentRecord = currentRecord .. "\\u"
                else
                    currentRecord = currentRecord .. escapedChar
                end
            else
                currentRecord = currentRecord .. buffer:sub(bufferPos, #buffer)
                buffer = ""
                bufferPos = 1
                if streamEnded then
                    if currentRecord == "" then
                        retVal = nil
                    else
                        retVal = currentRecord
                    end
                end
                break
            end
        end
        if retVal and (retVal ~= "") then
            currentRecord = ""
            retVal = retVal:match("^[^;]*;([^;]+);[^;]*;[^;]*;[^;]*;[^;]*.*$")
            if retVal then
                retVal = retVal:gsub("\\u(%x%x%x%x)", hex2unicode)
            else
                retVal = ""
            end
        end
        return (retVal)
    end
end
local function antizapretExtractDomains()
    local currentRecord = ""
    local buffer = ""
    local bufferPos = 1
    local streamEnded = false
    return function(chunk)
        local haveOutput = 0
        local retVal = ""
        if chunk == nil then
            streamEnded = true
        else
            buffer = buffer .. chunk
        end
        local newlinePosition = buffer:find("\n", bufferPos)
        if newlinePosition then
            currentRecord = currentRecord .. buffer:sub(bufferPos, newlinePosition - 1)
            bufferPos = newlinePosition + 1
            retVal = currentRecord
        else
            currentRecord = currentRecord .. buffer:sub(bufferPos, #buffer)
            buffer = ""
            bufferPos = 1
            if streamEnded then
                if currentRecord == "" then
                    retVal = nil
                else
                    retVal = currentRecord
                end
            end
        end
        if retVal and (retVal ~= "") then
            currentRecord = ""
        end
        return (retVal)
    end
end
local function normalizeFqdn()
    return function(chunk)
        if chunk and (chunk ~= "") then
            if config["stripWww"] then chunk = chunk:gsub("^www%.", "") end
            if idn and config["convertIdn"] then chunk = idn.encode(chunk) end
            if #chunk > 255 then chunk = "" end
            chunk = chunk:lower()
        end
        return (chunk)
    end
end
local function cunstructTables(bltables)
    bltables = bltables or { fqdn = {}, sdcount = {}, ips = {} }
    local f = function(blEntry, err)
        if blEntry and (blEntry ~= "") then
            if blEntry:match("^%d+%.%d+%.%d+%.%d+$") then
                if not bltables.ips[blEntry] then
                    bltables.ips[blEntry] = true
                end
            else
                local subDomain, secondLevelDomain = blEntry:match("^([a-z0-9%-%.]-)([a-z0-9%-]+%.[a-z0-9%-]+)$")
                if secondLevelDomain then
                    bltables.fqdn[blEntry] = secondLevelDomain
                    if 1 > 0 then
                        bltables.sdcount[secondLevelDomain] = (bltables.sdcount[secondLevelDomain] or 0) + 1
                    end
                end
            end
        end
        return 1
    end
    return f, bltables
end
local function compactDomainList(fqdnList, subdomainsCount)
    local domainTable = {}
    local numEntries = 0
    if config.groupBySld and (config.groupBySld > 0) then
        for sld in pairs(subdomainsCount) do
            if config.neverGroupDomains[sld] then
                subdomainsCount[sld] = 0
                break
            end
            for _, pattern in ipairs(config.neverGroupMasks) do
                if sld:find(pattern) then
                    subdomainsCount[sld] = 0
                    break
                end
            end
        end
    end
    for fqdn, sld in pairs(fqdnList) do
        if (not fqdnList[sld]) or (fqdn == sld) then
            local keyValue;
            if config.groupBySld and (config.groupBySld > 0) and (subdomainsCount[sld] > config.groupBySld) then
                keyValue = sld
            else
                keyValue = fqdn
            end
            if not domainTable[keyValue] then
                domainTable[keyValue] = true
                numEntries = numEntries + 1
            end
        end
    end
    return domainTable, numEntries
end
local function generateDnsmasqConfig(configPath, domainList)
    local configFile = assert(io.open(configPath, "w"), "could not open dnsmasq config")
    for fqdn in pairs(domainList) do
        if config.torifyNsLookups then
            configFile:write(string.format("server=/%s/%s\n", fqdn, config.torDnsAddr))
        end
        configFile:write(string.format("ipset=/%s/%s\n", fqdn, config.ipsetDns))
    end
    configFile:close()
end
local function generateIpsetConfig(configPath, ipList)
    local configFile = assert(io.open(configPath, "w"), "could not open ipset config")
    configFile:write(string.format("flush %s-tmp\n", config.ipsetIp))
    for ipaddr in pairs(ipList) do
        configFile:write(string.format("add %s %s\n", config.ipsetIp, ipaddr))
    end
    configFile:write(string.format("swap %s %s-tmp\n", config.ipsetIp, config.ipsetIp))
    configFile:close()
end
local retVal, retCode, url
local output, bltables = cunstructTables()
if config.blSource == "rublacklist" then
    output = ltn12.sink.chain(ltn12.filter.chain(rublacklistExtractDomains(), normalizeFqdn()), output)
    url = "https://reestr.rublacklist.net/api/current"
elseif config.blSource == "antizapret" then
    output = ltn12.sink.chain(ltn12.filter.chain(antizapretExtractDomains(), normalizeFqdn()), output)
    url = "https://api.antizapret.info/group.php?data=domain"
else
    error("blacklist source should be either 'rublacklist' or 'antizapret'")
end
if https then
    retVal, retCode = https.request { url = url, sink = output }
else
    retVal, retCode = ltn12.pump.all(ltn12.source.file(io.popen("wget -qO- " .. url)), output)
end
if (retVal == 1) and ((retCode == 200) or (https == nil)) then
    local domainTable, recordsNum = compactDomainList(bltables.fqdn, bltables.sdcount)
    if recordsNum > config.blMinimumEntries then
        generateDnsmasqConfig(config.dnsmasqConfigPath, domainTable)
        generateIpsetConfig(config.ipsetConfigPath, bltables.ips)
        print(string.format("blacklists updated. %d entries.", recordsNum))
        os.exit(0)
    end
end
os.exit(1)
Надеюсь, что кому-то эта писанина будет полезна.
PS: Не забываем про пакет ca-certificates !
[Профиль]  [ЛС] 

ionkeira

Стаж: 14 лет 9 месяцев

Сообщений: 19

ionkeira · 26-Окт-19 15:12 (спустя 4 месяца 20 дней)

это вероятно для програмистов... ибо мне простому смертногму надо пошаговое руководство - там ничего не понятно, вообще!
[Профиль]  [ЛС] 

NVV_RW

Top Bonus 05* 10TB

Стаж: 14 лет 6 месяцев

Сообщений: 196

NVV_RW · 26-Окт-19 18:19 (спустя 3 часа)

ionkeira писал(а):
78201399это вероятно для програмистов...
Ну эт вы уж хватили...
Нужны, конечно, базовые знания о настройке OpenWRT, которая в этом плане очень похожа на Debian Linux, но не более того. Синтаксис команд редактора vi, используемого в OpenWRT, согласен, не самый удобоваримый, ну уж что есть Nano не лучше. Оба, кстати, неплохо документированы. На openwrt.org список поддерживаемых устройств есть и как на каждое из них установить openwrt - тоже. Практически все настройки можно делать методом copy-paste из тамошней wiki (ну и из хабровской статьи), ничего заумного там нет.
[Профиль]  [ЛС] 

shilak1

Top Bonus 06* 50TB

Стаж: 15 лет 11 месяцев

Сообщений: 479

shilak1 · 22-Июл-20 05:38 (спустя 8 месяцев)

NVV_RW писал(а):
78202479
ionkeira писал(а):
78201399это вероятно для програмистов...
Ну эт вы уж хватили...
Нужны, конечно, базовые знания о настройке OpenWRT, которая в этом плане очень похожа на Debian Linux,.. Практически все настройки можно делать методом copy-paste из тамошней wiki (ну и из хабровской статьи), ничего заумного там нет.
То есть методом "иди туда, не знаю куда.." - проще "методом тыка", котрый еще проще "метода copy-paste"
[Профиль]  [ЛС] 

vlad_ns

Top Bonus 05* 10TB

Стаж: 14 лет 8 месяцев

Сообщений: 1713

vlad_ns · 19-Окт-20 22:38 (спустя 2 месяца 28 дней)

shilak1 писал(а):
79803728То есть методом "иди туда, не знаю куда.." - проще "методом тыка", котрый еще проще "метода copy-paste"
Если не разбираться, то проще видимо. Ну и никто ведь не мешает разобраться? Умными ведь не рождаются.
[Профиль]  [ЛС] 
 
Ответить
Loading...
Error