一、什么是动态网页
我一向注重理论与实践相结合，知其然也要知其所以然，才能以不变应万变。
所谓的动态网页，是指跟静态网页相对的一种网页编程技术。静态网页，随着html代码的生成，页面的内容和显示效果就基本上不会发生变化了——除非你修改页面代码。而动态网页则不然，页面代码虽然没有变，但是显示的内容却是可以随着时间、环境或者数据库操作的结果而发生改变的。——来源百度百科
动态网页具有减少工作量、内容更新快、可完成功能多等特点，被很多公司所采用，比如狗东、某宝、某瓣、某乎等等。
二、什么是AJAX
随着人们对动态网页加载速度的要求越来越高，AJAX技术应运而生并成为许多站点的首选。AJAX是一种用于创建快速动态网页的技术，通过在后台与服务器进行少量数据交换，使网页实现异步更新。这意味着在不重新加载整个网页的情况下，可以对网页的某部分进行更新。
三、如何爬取AJAX动态加载网页
- 解析接口
只要是有数据发送过来，那肯定是有发送到服务器的请求的吧。我们只需找出它悄悄加载出的页面的真实请求即可。特点：爬取速度快，爬取的数据干净，有些网站解析难度较大。
- Selenium
selenium是什么呢？它本来是个自动化测试工具，但是被广泛的用户拿去爬虫了。它是一个工具，这个工具可以用代码操作浏览器，比如控制浏览器的下滑、模拟鼠标点击等。特点：代码较简单，爬取速度慢，容易被封ip。
既然如此，那我们就开启爬虫的正确姿势吧，先用解析接口的方法来写爬虫。
构造真实请求，添加Headers。这里J哥没有贴自己的User-Agent和Cookie，主要是一向胆小甚微的我害怕啊。
构建get_page函数，自变量为page，也就是页数。以字典类型创建表单data，用post方式去请求网页数据。这里要注意要对返回的数据解码，编码为’gbk’，否则返回的数据会乱码！另外我还加了异常处理优化了下，以防意外发生。
构建parse_page函数，对返回的网页数据进行解析，用Xpath提取所有字段内容，保存为csv格式。有人会问为啥J哥这么喜欢用Xpath，因为简单好用啊！！！这么简单的网页结构搞个正则大法装x，J哥我做不到啊。
最后，遍历一下页数，调用一下函数。OK，搞定！
二、Selenium
好学的朋友可能还想看看Selenium是如何来爬AJAX动态加载网页的，J哥自然会满足你的好奇心。于是赶紧新建了一个py文件，准备趁势追击，用Selenium把这网站爬下来。
首先，把相关库导进来。
然后，用chromedriver驱动打开这个网站。
总结一下，对于AJAX动态加载网页爬虫，一般就两种方式：解析接口；Selenium。我推荐解析接口的方式，如果解析的是json数据，就更好爬了。实在没辙了再用Selenium吧。