V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX 提问指南
LeopardDennis
V2EX  ›  问与答

使用 PySpider 爬取没有特征的网站

  •  
  •   LeopardDennis · 2015-11-14 16:22:15 +08:00 · 2370 次点击
    这是一个创建于 3301 天前的主题,其中的信息可能已经有所发展或是发生改变。

    http://www.cers.edu.cn/cersii/instru.do?method=showInstru&instruId=1000100000003

    使用 PySpider 爬取上述网址的仪器信息,因为元素没有特征, css 选择器选择不到,所以想用 PyQuery 尝试选择到对应元素,第一次接触 Python 和 PyQuery ,代码如下,请各位帮忙指点一二,感谢。

    from pyspider.libs.base_handler import *
    import re
    from pyquery import PyQuery as pq
    from lxml import etree
    import urllib

    class Handler(BaseHandler):
    crawl_config = {
    }

    @every(minutes=24 * 60)
    def on_start(self):
        self.crawl('http://www.cers.edu.cn/cersii/instru.do?method=listInstru', callback=self.index_page)
    
    @config(age=10 * 24 * 60 * 60)
    def index_page(self, response):
        for each in response.doc('form a').items():
            if re.search("showInstru", each.attr.href, re.U):
                self.crawl(each.attr.href, callback=self.detail_page)
    
    @config(priority=2)
    def detail_page(self, response):
        return {
            "仪器名称": ,
        }
    
    7 条回复    2016-03-08 23:24:51 +08:00
    xierch
        1
    xierch  
       2015-11-14 16:27:29 +08:00
    CSS selector 也有 :nth-child(),没有选不到的吧
    binux
        2
    binux  
       2015-11-15 16:35:00 +08:00
    写一个循环,选取所有的 td ,然后根据颜色判断是 key 还是 value ,拼装起来
    LeopardDennis
        3
    LeopardDennis  
    OP
       2015-11-15 17:07:25 +08:00
    @binux 我尝试了循环, pyquery 的 each 方法总报错,因为用到了 lembda ,声明的方法告诉我找不到,能否指点一下。
    binux
        4
    binux  
       2015-11-15 17:28:25 +08:00   ❤️ 1
    @LeopardDennis
    for each in doc('td') # 这样得到的是 lxml 对象
    或者 for each in doc('td').items() # 这样得到的依然是 pyquery 对象
    LeopardDennis
        5
    LeopardDennis  
    OP
       2015-11-22 23:58:17 +08:00
    @binux 您好,我在 demo.pyspider.org 上爬取了 8k+的数据,但是使用导出 csv 功能导出来的文件是空的,请问如何解决。项目地址: http://demo.pyspider.org/debug/eq_crawler
    binux
        6
    binux  
       2015-11-23 01:02:31 +08:00
    @LeopardDennis 导出的地址后面加上 ?offet=0&limit=100
    Izual
        7
    Izual  
       2016-03-08 23:24:51 +08:00
    css selector 应该很好写啊, a[href^="略
    另外还需要撸一个翻页的 callback 吧
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   1072 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 22ms · UTC 19:31 · PVG 03:31 · LAX 11:31 · JFK 14:31
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.