1 Star 0 Fork 0

时箭匆嵘/scrapy_study

加入 Gitee
与超过 1200万 开发者一起发现、参与优秀开源项目,私有仓库也完全免费 :)
免费加入
文件
该仓库未声明开源许可证文件(LICENSE),使用请关注具体项目描述及其代码上游依赖。
克隆/下载
pachongBS1201.py 677 Bytes
一键复制 编辑 原始数据 按行查看 历史
时箭匆嵘 提交于 2017-12-04 10:10 . 学习BeautifulSoup
import re
import requests
from bs4 import BeautifulSoup
class Crawl():
def __init__(self):
# self.url = url
self.UA = ("Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 "
"(KHTML, like Gecko) Chrome/49.0.2623.75 Safari/537.36 LBBROWSER")
def parse(self,url):
item = {}
r = requests.get(url,headers = {"User-Agent":self.UA})
html = r.content
soup = BeautifulSoup(html,"html.parser")
item['title'] = soup.findAll("a", class_='name')
return item
if __name__=="__main__":
url = 'https://www.qidian.com/kehuan'
crawl = Crawl()
item = crawl.parse(url)
print(item)
Loading...
马建仓 AI 助手
尝试更多
代码解读
代码找茬
代码优化
1
https://gitee.com/ShiJianCongRong/scrapy_study.git
[email protected]:ShiJianCongRong/scrapy_study.git
ShiJianCongRong
scrapy_study
scrapy_study
master

搜索帮助