爬虫Scrapy框架制作爬虫

制作爬虫 （spiders/itcastSpider.py）
爬虫功能要分两步：

1. 爬数据
   在当前目录下输入命令，将在mySpider/spider目录下创建一个名为itcast的爬虫，并指定爬取域的范围：
   scrapy genspider itcast “itcast.cn”
   打开 mySpider/spider目录里的 itcast.py，默认增加了下列代码:
   import scrapy
   class ItcastSpider(scrapy.Spider):
   name = “itcast”
   allowed_domains = [“itcast.cn”]
   start_urls = (
   ‘http://www.itcast.cn/’,
   )
   def parse(self, response):
   pass
   其实也可以由我们自行创建itcast.py并编写上面的代码，只不过使用命令可以免去编写固定代码的麻烦
   要建立一个Spider， 你必须用scrapy.Spider类创建一个子类，并确定了三个强制的属性 和 一个方法。
   name = “” ：这个爬虫的识别名称，必须是唯一的，在不同的爬虫必须定义不同的名字。
   allow_domains = [] 是搜索的域名范围，也就是爬虫的约束区域，规定爬虫只爬取这个域名下的网页，不存在的URL会被忽略。
   start_urls = () ：爬取的URL元祖/列表。爬虫从这里开始抓取数据，所以，第一次下载的数据将会从这些urls开始。其他子URL将会从这些起始URL中继承性生成。
   parse(self, response) ：解析的方法，每个初始UR