Skip to content

Commit db74114

Browse files
author
Boris
committed
修复文档错误
1 parent af2bd14 commit db74114

1 file changed

Lines changed: 21 additions & 21 deletions

File tree

docs/usage/AirSpider.md

Lines changed: 21 additions & 21 deletions
Original file line numberDiff line numberDiff line change
@@ -5,29 +5,29 @@ AirSpider是一款轻量爬虫,学习成本低。面对一些数据量较少
55
## 1. 创建爬虫
66

77
命令参考:[命令行工具](command/cmdline.md?id=_2-创建爬虫)
8-
8+
99
示例
1010

1111
feapder create -s air_spider_test
12-
12+
1313
生成如下
1414

15-
15+
1616
import feapder
17-
18-
17+
18+
1919
class AirSpiderTest(feapder.AirSpider):
2020
def start_requests(self):
2121
yield feapder.Request("https://www.baidu.com")
22-
22+
2323
def parse(self, request, response):
2424
print(response)
25-
26-
25+
26+
2727
if __name__ == "__main__":
2828
AirSpiderTest().start()
29-
30-
29+
30+
3131
可直接运行
3232

3333
## 2. 代码讲解
@@ -64,7 +64,7 @@ AirSpider是一款轻量爬虫,学习成本低。面对一些数据量较少
6464
def parse(self, request, response):
6565
xxx = request.xxx
6666
print(xxx)
67-
67+
6868
直接在feapder.Request中携带即可,xxx为携带数据的key,可以随意写,只要不和feapder.Request默认参数冲突即可。默认参数参考[Request](source_code/Request.md)。可以携带任意类型的值,如字典、类等
6969

7070
取值:如何携带就如何取值,如上我们携带xxx, 那么`request.xxx` 可将xxx值取出,取出的值和携带的值类型一致。
@@ -100,12 +100,12 @@ request.参数, 这里的参数支持requests所有参数,同时也可携带
100100
def xxx(self, request):
101101
"""
102102
我是自定义的下载中间件
103-
:param request:
104-
:return:
103+
:param request:
104+
:return:
105105
"""
106106
request.headers = {'User-Agent':"lalala"}
107107
return request
108-
108+
109109
自定义的下载中间件只有指定的请求才会经过。其他未指定下载中间件的请求,还是会经过默认的下载中间件
110110

111111
## 8. 失败重试
@@ -115,9 +115,9 @@ request.参数, 这里的参数支持requests所有参数,同时也可携带
115115
例如下面代码,校验了返回的code是否为200,非200抛出异常,触发重试
116116

117117
def parse(self, request, response):
118-
if response.code != 200:
118+
if response.status_code != 200:
119119
raise Exception("非法页面")
120-
120+
121121
默认最大重试次数为100次,我们可以引入配置文件或自定义配置来修改重试次数,详情参考[配置文件](source_code/配置文件.md)
122122

123123

@@ -137,7 +137,7 @@ request.参数, 这里的参数支持requests所有参数,同时也可携带
137137
__custom_setting__ = dict(
138138
PROXY_EXTRACT_API="代理提取地址",
139139
)
140-
140+
141141
上例是配置代理提取地址,以便爬虫使用代理,自定义配置支持配置文件中的所有参数。
142142

143143
配置优先级: 自定义配置 > 配置文件,即自定义配置会覆盖配置文件里的配置信息,不过自定义配置只对自己有效,配置文件可以是多个爬虫公用的
@@ -151,7 +151,7 @@ AirSpider不支持去重,因此配置文件中的去重配置无效
151151

152152
if __name__ == "__main__":
153153
AirSpiderTest(thread_count=10).start()
154-
154+
155155
## 11. 数据入库
156156

157157
框架内封装了`MysqlDB``RedisDB`,与pymysql不同的是,MysqlDB 使用了线程池,且对方法进行了封装,使用起来更方便。RedisDB 支持 哨兵模式、集群模式。使用方法如下:
@@ -160,7 +160,7 @@ AirSpider不支持去重,因此配置文件中的去重配置无效
160160

161161
from feapder.db.mysqldb import MysqlDB
162162
from feapder.db.redisdb import RedisDB
163-
163+
164164
以mysql为例,获取mysql对象
165165

166166
方式1:若`setting.py``__custom_setting__`中指定了数据库连接信息,则可以直接以`db = MysqlDB()`方式获取
@@ -172,7 +172,7 @@ AirSpider不支持去重,因此配置文件中的去重配置无效
172172
MYSQL_DB = "feapder",
173173
MYSQL_USER_NAME = "feapder",
174174
MYSQL_USER_PASS = "feapder123"
175-
175+
176176
)
177177
def __init__(self, *args, **kwargs):
178178
super().__init__(*args, **kwargs)
@@ -187,7 +187,7 @@ AirSpider不支持去重,因此配置文件中的去重配置无效
187187
user_pass="feapder123",
188188
db="feapder"
189189
)
190-
190+
191191
MysqlDB 的具体使用方法见 [MysqlDB](source_code/MysqlDB.md)
192192

193193
RedisDB 的具体使用方法见 [RedisDB](source_code/RedisDB.md)

0 commit comments

Comments
 (0)