爬虫原理
创建一个以百度为名的爬虫，其中spiders/baidu.py内容如下：
# -*- coding: utf-8 -*-import scrapyclass BaiduSpider(scrapy.Spider): name = 'baidu' allowed_domains = ['www.baidu.com'] start_urls = ['http://www.baidu.com/'] def parse(self, response): pass
对spider来说，爬取的过程如下:
-
以初始的URL初始化Request，并设置回调函数。 当该request下载完毕并返回时，将生成response，并作为参数传给该回调函数。
如代码所示，spider中初始的request是通过调用 来获取的。 读取 中的URL， 并以 为回调函数生成 。
-
在回调函数内分析返回的(网页)内容，返回 对象、dict、 或者一个包括三者的可迭代容器。 返回的Request对象之后会经过Scrapy处理，下载相应的内容，并调用设置的callback函数(函数可相同)。
-
在回调函数内，您可以使用 (您也可以使用BeautifulSoup, lxml 或者您想用的任何解析器) 来分析网页内容，并根据分析的数据生成item。
-
最后，由spider返回的item将被存到数据库(由某些 处理)或使用 存入到文件中。
scrapy.Spider
class scrapy.spiders.Spider
Spider类是最简单的spider。每个其他的spider必须继承自该类(包括Scrapy自带的其他spider以及您自己编写的spider)。 其仅仅提供了 的默认实现，读取并请求spider属性中的 , 并根据返回的结果(resulting responses)调用spider的 parse 方法。
name
定义spider名字的字符串。其必须是唯一的，但可以生成多个相同的spider实例。name是spider最重要的属性，而且是必须的。
例如，如果spider爬取 mywebsite.com ，该spider通常会被命名为 mywebsite 。
allowed_domains
可选。
包含了spider允许爬取的域名列表。 当 OffsiteMiddleware 启用时， 域名不在列表中的URL不会被跟进。
start_urls
URL列表。当没有制定特定的URL时，spider将从该列表中开始进行爬取。
custom_settings
该设置是一个dict。当启动spider时，该设置将会覆盖项目级的设置，由于设置必须在初始化前被更新，所以该属性必须定义为类的属性。
class MySpider(scrapy.Spider): name = 'myspider' custom_settings = { 'SOME_SETTING': 'some value', } crawler
该属性在初始化类后，由类方法 设置，并且链接了本spider实例对应的 对象。
Crawler包含了很多项目中的组件，作为单一的入口点 (例如插件，中间件，信号管理器等)。
@classmethoddef from_crawler(cls, crawler, *args, **kwargs): spider = super(CrawlSpider, cls).from_crawler(crawler, *args, **kwargs) spider._follow_links = crawler.settings.getbool( 'CRAWLSPIDER_FOLLOW_LINKS', True) return spider
settings
这个值也是来自于方法from_crawler()。是一个Settings 实例，
logger
配置日志。
from_crawler(crawler, *args, **kwargs)
这是一个类方法，scrapy创建spider的时候会调用。调用位置在crawler.py 的类Crawler中。这个方法在实例化这个spider以后，这个实例才有的settings和crawler属性，所以在__init__方法中是没法访问这俩属性的。如果非要在__init__方法中使用相关属性，那么只能重写该方法，大家可以尝试写写。
参数:
- crawler ( 实例) – 绑定爬虫
- args (列表) – 参数传递到__init__()方法
- kwargs (字典) –关键字参数传递到__init__()方法
start_requests()
该方法必须返回一个可迭代对象(iterable)。该对象包含了spider用于爬取的第一个Request。
当spider启动爬取并且未制定URL时，该方法被调用。 当指定了URL时， 将被调用来创建Request对象。 该方法仅仅会被Scrapy调用一次，因此您可以将其实现为生成器。
该方法的默认实现是使用 的url生成Request。
如果您想要修改最初爬取某个网站的Request对象，您可以重写(override)该方法。 例如，如果您需要在启动时以POST登录某个网站，你可以这么写:
class MySpider(scrapy.Spider): name = 'myspider' def start_requests(self): return [scrapy.FormRequest("http://www.example.com/login", formdata={'user': 'john', 'pass': 'secret'}, callback=self.logged_in)] def logged_in(self, response): # here you would extract links to follow and return Requests for # each of them, with another callback pass make_requests_from_url(url)
该方法接受一个URL并返回用于爬取的 对象。 该方法在初始化Request时被 调用，也被用于转化url为request。
因为这里的Request初始化没有回调方法，就是默认采用parse方法作为回调。另外这里的dont_filter值为True，这个值的作用是该url不会被过滤。
parse(response)
当response没有指定回调函数时，该方法是Scrapy处理下载的response的默认方法。
parse 负责处理response并返回处理的数据以及跟进的URL。 Spider 对其他的Request的回调函数也有相同的要求。
该方法及其他的Request回调函数必须返回一个包含 Request、dict 或 Item 的可迭代的对象。
log(message[, level, component])
使用 scrapy.log.msg() 方法记录(log)message。 log中自动带上该spider的 name属性。 封装了通过Spiders的 logger 来发送log消息的方法，并且保持了向后兼容性。
closed(reason)
当spider关闭时，该函数被调用。 该方法提供了一个替代调用signals.connect()来监听 信号的快捷方式。
import scrapyclass MySpider(scrapy.Spider): name = 'example.com' allowed_domains = ['example.com'] start_urls = [ 'http://www.example.com/1.html', 'http://www.example.com/2.html', 'http://www.example.com/3.html', ] def parse(self, response): self.logger.info('A response from %s just arrived!', response.url) 在单个回调函数中返回多个Request以及Item的例子:
import scrapyclass MySpider(scrapy.Spider): name = 'example.com' allowed_domains = ['example.com'] start_urls = [ 'http://www.example.com/1.html', 'http://www.example.com/2.html', 'http://www.example.com/3.html', ] def parse(self, response): sel = scrapy.Selector(response) for h3 in response.xpath('//h3').extract(): yield {"title": h3} for url in response.xpath('//a/@href').extract(): yield scrapy.Request(url, callback=self.parse) 除了 ，你也可以直接使用 ; 您也可以使用 来给予数据更多的结构性(give data more structure):
import scrapyfrom myproject.items import MyItemclass MySpider(scrapy.Spider): name = 'example.com' allowed_domains = ['example.com'] def start_requests(self): yield scrapy.Request('http://www.example.com/1.html', self.parse) yield scrapy.Request('http://www.example.com/2.html', self.parse) yield scrapy.Request('http://www.example.com/3.html', self.parse) def parse(self, response): for h3 in response.xpath('//h3').extract(): yield MyItem(title=h3) for url in response.xpath('//a/@href').extract(): yield scrapy.Request(url, callback=self.parse)