适用人群

1、有Python基础，想学习爬虫的。

2、想系统学习网络爬虫的。

3、想学习分布式爬虫的。

课程概述

本课程完全从零基础出发，只要你有一点Python基础就可以听懂本课程！课程从基础到高级，让你21天破茧成蝶成为高级爬虫工程师！

大致目录：

章节1:爬虫前奏

课时1【爬虫前奏】什么是网络爬虫

课时2【爬虫前奏】HTTP协议介绍

课时3【爬虫前奏】抓包工具的使用

章节2:网络请求

课时4【urllib库】urlopen函数用法

课时5【urllib库】urlretrieve函数用法

课时6【urllib库】参数编码和解码函数

课时7【urllib库】urlparse和urlsplit函数用法

课时8【urllib库】实战-用Request爬取拉勾网职位信息

课时9【urllib库】作业-内涵段子爬虫作业

课时10【urllib库】ProxyHandler实现代理

课时11【urllib库】cookie原理和格式详解

课时12【urllib库】实战-爬虫使用cookie模拟登录

课时13【urllib库】实战-爬虫自动登录访问授权页面

课时14【urllib库】cookie信息的加载与保存

课时15【requests库】requests库的基本使用

课时16【requests库】requests发送post请求

课时17【requests库】requests使用代理

课时18【requests库】requests处理cookie信息

课时19【requests库】requests处理不信任的ssl证书

章节3:数据解析

课时20【xpath解析】xpath介绍和工具安装

课时21【xpath解析】xpath语法详解

课时22【xpath解析】lxml解析html代码和文件

课时23【xpath解析】lxml和xpath结合使用详解

课时24【xpath解析】实战-豆瓣电影爬虫

课时25【xpath解析】实战-电影天堂爬虫之网页分析

课时26【xpath解析】实战-电影天堂爬虫之爬取详情页

课时27【xpath解析】实战-电影天堂爬虫之解析详情页

课时28【xpath解析】实战-电影天堂爬虫之爬虫完成

课时29【xpath解析】作业-腾讯招聘网爬虫作业

课时30【BeautifulSoup库】bs4库的基本介绍

课时31【BeautifulSoup库】bs4库的基本使用

课时32【BeautifulSoup库】bs4库提取数据详解

课时33【BeautifulSoup库】css常用选择器介绍

课时34【BeautifulSoup库】select和css选择器提取元素

课时35【BeautifulSoup库】bs4库拾遗

课时36【BeautifulSoup库】实战-中国天气网爬虫之页面分析

课时37【BeautifulSoup库】实战-中国天气网爬虫之华北城市数据爬取

课时38【BeautifulSoup库】实战-中国天气网爬虫之所有城市数据爬取

课时39【BeautifulSoup库】实战-中国天气网爬虫之数据可视化

课时40【正则表达式】单字符匹配规则

课时41【正则表达式】匹配多个字符

课时42【正则表达式】常用匹配小案例

课时43【正则表达式】开始结束和或语法

课时44【正则表达式】转义字符和原生字符串

课时45【正则表达式】group分组

课时46【正则表达式】re模块常用函数

课时47【正则表达式】实战-古诗文网爬虫实战

课时48【正则表达式】作业-糗事百科爬虫作业

章节4:数据存储

课时49【json文件】json字符串介绍

课时50【json文件】dump成json字符串以及编码问题

课时51【json文件】load成Python对象

课时52【csv文件】读取csv文件的两种方式

课时53【csv文件】写入csv文件的两种方式

课时54【MySQL数据库】windows下安装MySQL数据库

课时55【MySQL数据库】使用软件和代码连接数据库

课时56【MySQL数据库】使用代码插入数据的两种方式

课时57【MySQL数据库】使用代码查找数据的三种方式

课时58【MySQL数据库】使用代码删除和更新数据

课时59【MongoDB数据库】mongodb数据库的安装

课时60【MongoDB数据库】mongodb数据库启动和连接

课时61【MongoDB数据库】将mongodb制作成服务

课时62【MongoDB数据库】mongodb常用概念介绍

课时63【MongoDB数据库】mongodb的基本操作命令

课时64【MongoDB数据库】python操作

章节5:爬虫进阶

课时65【多线程】多线程概念和threading模块介绍

课时66【多线程】使用Thread类创建多线程

课时67【多线程】多线程共享全局变量以及锁机制

课时68【多线程】Lock版生产者和消费者模式

课时69【多线程】Condition版生产者与消费者模式

课时70【多线程】Queue线程安全队列讲解

课时71【多线程】实战-下载表情包之同步爬虫完成

课时72【多线程】实战-下载表情包之异步爬虫完成

课时73【多线程】GIL全局解释器锁详解

课时74【多线程】作业-多线程下载百思不得姐段子爬虫作业

课时75【动态网页爬虫】ajax介绍和爬取ajax数据的两种方式

课时76【动态网页爬虫】selenium+chromedriver安装和入门

课时77【动态网页爬虫】selenium关闭页面和浏览器

课时78【动态网页爬虫】selenium定位元素的方法详解

课时79【动态网页爬虫】selenium操作表单元素

课时80【动态网页爬虫】selenium行为链

课时81【动态网页爬虫】selenium操作

课时82【动态网页爬虫】selenium的隐式等待和显式等待

课时83【动态网页爬虫】selenium打开多窗口和切换窗口

课时84【动态网页爬虫】selenium使用代理

课时85【动态网页爬虫】selenium中的WebElement类补充

课时86【动态网页爬虫】实战-selenium完美实现拉勾网列表页之爬虫解析

课时87【动态网页爬虫】实战-selenium完美实现拉勾网详情页之爬虫解析

课时88【动态网页爬虫】实战-selenium完美实现拉勾网爬虫之跑通流程

课时89【动态网页爬虫】实战-selenium完美实现拉勾网爬虫之细节处理

课时90【动态网页爬虫】作业-使用selenium实现boss直聘爬虫作业

课时91【验证码识别】tesseract库介绍

课时92【验证码识别】tesseract在终端下识别图片

课时93【验证码识别】tesseract代码识别图片

课时94【验证码识别】tesseract处理拉勾网验证码

课时95【12306自动抢票】12306抢票流程分析

课时96【12306自动抢票】登录12306功能完成

课时97【12306自动抢票】购票信息输入功能完成

课时98【12306自动抢票】自动查询余票功能完成

课时99【12306自动抢票】自动提交订单功能完成

章节6:Scrapy框架

课时100【Scrapy框架】scrapy框架架构详解

课时101【Scrapy框架】scrapy框架快速入门

课时102【Scrapy框架】实战-糗事百科之爬虫编写

课时103【Scrapy框架】实战-糗事百科之pipeline保存数据

课时104【Scrapy框架】实战-糗事百科之优化数据存储的方式

课时105【Scrapy框架】实战-糗事百科之抓取多个页面

课时106【Scrapy框架】CrawlSpider讲解

课时107【Scrapy框架】实战-CrawlSpider实现微信小程序社区爬虫

课时108【Scrapy框架】Scrapy Shell的使用

课时109【Scrapy框架】Request和Response对象讲解

课时110【Scrapy框架】实战-scrapy模拟登录某社交网

课时111【Scrapy框架】实战-scrapy模拟登录豆瓣网

课时112【Scrapy框架】实战-自动识别豆瓣网验证码

课时113【Scrapy框架】实战-汽车之家宝马5系图片下载爬虫（1）

课时114【Scrapy框架】实战-汽车之家宝马5系图片下载爬虫（2）

课时115【Scrapy框架】实战-汽车之家宝马5系图片下载爬虫（3）

课时116【Scrapy框架】实战-汽车之家宝马5系图片下载爬虫（4）

课时117【Scrapy框架】下载器中间件讲解

课时118【Scrapy框架】反爬虫-设置随机请求头

课时119【Scrapy框架】反爬虫-开放ip代理池和独享代理配置

课时120【Scrapy框架】实战-攻克BOSS直聘反爬虫之正常爬取

课时121【Scrapy框架】实战-攻克BOSS直聘反爬虫之无限爬取

课时122【Scrapy框架】简书网整站爬虫之页面解析

课时123【Scrapy框架】实战-简书网整站爬虫之保存数据到

课时124【Scrapy框架】实战-简书网整站爬虫之爬取ajax数据

课时125【分布式爬虫】分布式爬虫介绍

课时126【分布式爬虫】redis介绍

课时127【分布式爬虫】linux下安装

课时128【分布式爬虫】windows下redis安装与配置

课时129【分布式爬虫】配置其他机器连接本机redis服务器

课时130【分布式爬虫】redis的字符串操作

课时131【分布式爬虫】redis的列表操作

课时132【分布式爬虫】redis的集合操作

课时133【分布式爬虫】redis的哈希操作

课时134【分布式爬虫】实战-房天下全国658城市房源信息抓取（1）

课时135【分布式爬虫】实战-房天下全国658城市房源信息抓取（2）

课时136【分布式爬虫】实战-房天下全国658城市房源信息抓取（3）

课时137【分布式爬虫】实战-房天下全国658城市房源信息抓取（4）

课时138【分布式爬虫】实战-房天下全国658城市房源信息抓取（5）

课时139【分布式爬虫】实战-房天下全国658城市房源信息抓取（6）

课时140【分布式爬虫】实战-房天下全国658城市房源信息抓取（7）