先统一引入本次爬取信息所需要的库文件

信号源
先统一引入本次爬取信息所需要的库文件   URL的网页内容:通过在headers里面添加相关信息,以此来达到代码模拟浏览器向服务器发送的信息的目的 这里需要注意不同的网页的编码格式有可能不同,例如:‘utf-8’,‘gb2312’等相关类型 爬取网页 原始地址  选择不同队进行跳转 通过观察目标网址,当我们选择不同球队时,目标网址会在之前的网址前加上对应球队的英文名,以此来进行网页的跳转 因此当我们需要爬取所有球队的全部球员时,只需要将所有队名放入在一个列表中,然后使用一个for循环对列表进行遍历,然后与原始URL进行拼接,以此来达到访问所有球队球员的目的 网页解析 目前就可以拿取到所有球队的网页源码(部分示例)  当我们拿到网页源码之后,对其进行分析,根据我们需要拿到的数据使用正则表达式和BeaytifulSoup相关规则进行提取 正则表达式代码示例: 页面解析示例代码: 此时我们爬取下来的数据是每一类放置在一个列表中  因为我们后面需要将爬取到的数据放置在数据库中,我们需要按照一个球员一个列表的形式进行存储,所以利用循环将每一个球员的信息遍历出来 打印结果 到达这个阶段我们已经将所需要的信息爬取整理完毕,接下来就是存储到数据库中 使用sql语句创建数据表 数据存储 数据库中    

先统一引入本次爬取信息所需要的库文件

先统一引入本次爬取信息所需要的库文件

标签: