YingJie
V2EX  ›  问与答

怎样提高这种爬虫的速度。

  •  
  •   YingJie · May 22, 2017 · 2056 views
    This topic created in 3365 days ago, the information mentioned may be changed or developed.
    100+万 IP,内外网都有,想批量验证状态(80 端口),并写入文件(IP)。不用 nmap。Python 实现,能给个思路吗,如果是 Python 推荐哪些库(多进程+协程?requests?grequests?sock?Scapy?);如果用 Golang ……弱弱的问一句 Golang 有优势吗?
    这种需求是不是也属于爬虫范围?
    谢谢!
    9 replies    2017-05-23 20:32:05 +08:00
    panyanyany
        1
    panyanyany  
       May 22, 2017
    弱弱地问一句这 100+万 IP 哪来的啊……可用率有多少?
    golmic
        2
    golmic  
       May 22, 2017
    scrapy
    popu111
        3
    popu111  
       May 22, 2017 via Android
    Golang 的话 Goroutine 的实现简易度确实高得多,写这种简单的并发应用用 golang 是个相当棒的选择
    dongxiaozhuo
        4
    dongxiaozhuo  
       May 22, 2017 via iPhone
    zmap ?
    YingJie
        5
    YingJie  
    OP
       May 22, 2017
    @panyanyany 初略估计 10%
    YingJie
        6
    YingJie  
    OP
       May 22, 2017
    @dongxiaozhuo 尝试了,用不起来……
    aip
        7
    aip  
       May 22, 2017
    这个。。。关键难道不是带宽么?带宽足够的话,并发一万个进程。。。。
    YingJie
        8
    YingJie  
    OP
       May 22, 2017
    @aip 嗯,在带宽一定的情况下,想怎样提高效率,所以问问……
    nicoljiang
        9
    nicoljiang  
    PRO
       May 23, 2017
    1、你用的 ADSL VPS 的网络质量和机器稳定性,以及 VPS 的数量;
    2、反爬策略;
    3、爬虫后端的数据处理能力。

    以上是开玩笑的,真正的瓶颈就在能投入多少钱。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   2725 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 35ms · UTC 11:19 · PVG 19:19 · LAX 04:19 · JFK 07:19
    ♥ Do have faith in what you're doing.