利用aiohttp製作非同步爬蟲
簡介 asyncio可以實現單執行緒併發IO操作,是Python中常用的非同步處理模組。關於asyncio模組的介紹,筆者會在後續的文章中加以介紹,本文將會講述一個基於asyncio實現的HTTP框架——aiohttp,它可以幫助我們非同步地實現HTTP請求,從而使得我們的程式效率大大提高。 本文將會介紹aiohttp在爬蟲中的一個簡單應用。 在原來的專案中,我們是利用Python的爬蟲框架scrapy來爬取噹噹網圖書暢銷榜的圖書資訊的。在本文中,筆者將會以兩種方式來製作爬蟲,比較同步爬蟲與非同步爬蟲(利用aiohttp實現)的效率,展示aiohttp在爬蟲方面的優勢。 同步爬蟲 首先,我們先來看看用一般的方法實現的爬蟲,即同步方法,完整的Python程式碼如下:
'''
同步方式爬取噹噹暢銷書的圖書資訊
'''
import time
import requests
import pandas as pd
from bs4 import BeautifulSoup
table表格用於儲存書本資訊
table = []
處理網頁
def download(url):
html = requests.get(url).text
利用BeautifulSoup將獲取到的文字解析成HTML
soup = BeautifulSoup(html, "lxml")
獲取網頁中的暢銷書資訊
book_list = soup.find('ul', class_="bang_list clearfix bang_list_mode")('li')
for book in book_list:
info = book.find_all('div')
獲取每本暢銷書的排名,名稱,評論數,作者,出版社
rank = info[0].text[0:-1]
name = info[2].text
comments = info[3].text.split('條')[0]
author = info[4].text
date_and_publisher = info[5].text.split()
publisher = date_and_publisher[1] if len(date_and_publisher) >= 2 else ''
將每本暢銷書的上述資訊加入到table中
table.append([rank, name, comments, author, publisher])
全部網頁
urls = ['http://bang.dangdang.com/books/bestsellers/01.00.00.00.00.00-recent7-0-0-1-%d' % i for i in range(1, 26)]
統計該爬蟲的消耗時間
print('#' * 50)
t1 = time.time() # 開始時間
for url in urls:
download(url)
將table轉化為pandas中的DataFrame並儲存為CSV格式的檔案
df = pd.DataFrame(table, columns=['rank', 'name', 'comments', 'author', 'publisher'])
df.to_csv('E://douban/dangdang.csv', index=False)
t2 = time.time() # 結束時間
print('使用一般方法,總共耗時:%s' % (t2 - t1))
print('#' * 50)
輸出結果如下:
##################################################
使用一般方法,總共耗時:23.522345542907715
##################################################
程式運行了23.5秒,爬取了500本書的資訊,效率還是可以的。我們前往目錄中檢視檔案,如下:
非同步爬蟲
接下來我們看看用aiohttp製作的非同步爬蟲的效率,完整的原始碼如下:
'''
非同步方式爬取噹噹暢銷書的圖書資訊
'''
import time
import aiohttp
import asyncio
import pandas as pd
from bs4 import BeautifulSoup
table表格用於儲存書本資訊
table = []
獲取網頁(文字資訊)
async def fetch(session, url):
async with session.get(url) as response:
return await response.text(encoding='gb18030')
解析網頁
async def parser(html):
利用BeautifulSoup將獲取到的文字解析成HTML
soup = BeautifulSoup(html, "lxml")
獲取網頁中的暢銷書資訊
book_list = soup.find('ul', class_="bang_list clearfix bang_list_mode")('li')
for book in book_list:
info = book.find_all('div')
獲取每本暢銷書的排名,名稱,評論數,作者,出版社
rank = info[0].text[0:-1]
name = info[2].text
comments = info[3].text.split('條')[0]
author = info[4].text
date_and_publisher = info[5].text.split()
publisher = date_and_publisher[1] if len(date_and_publisher) >=2 else ''
將每本暢銷書的上述資訊加入到table中
table.append([rank,name,comments,author,publisher])
處理網頁
async def download(url):
async with aiohttp.ClientSession() as session:
html = await fetch(session, url)
await parser(html)
全部網頁
urls = ['http://bang.dangdang.com/books/bestsellers/01.00.00.00.00.00-recent7-0-0-1-%d'%i for i in range(1,26)]
統計該爬蟲的消耗時間
print('#' * 50)
t1 = time.time() # 開始時間
利用asyncio模組進行非同步IO處理
loop = asyncio.get_event_loop()
tasks = [asyncio.ensure_future(download(url)) for url in urls]
tasks = asyncio.gather(*tasks)
loop.run_until_complete(tasks)
將table轉化為pandas中的DataFrame並儲存為CSV格式的檔案
df = pd.DataFrame(table, columns=['rank','name','comments','author','publisher'])
df.to_csv('E://douban/dangdang.csv',index=False)
t2 = time.time() # 結束時間
print('使用aiohttp,總共耗時:%s' % (t2 - t1))
print('#' * 50)
我們可以看到,這個爬蟲與原先的一般方法的爬蟲的思路和處理方法基本一致,只是在處理HTTP請求時使用了aiohttp模組以及在解析網頁時函式變成了協程(coroutine),再利用aysncio進行併發處理,這樣無疑能夠提升爬蟲的效率。它的執行結果如下:
##################################################
使用aiohttp,總共耗時:2.405137538909912
##################################################
2.4秒,如此神奇!!!再來看看檔案的內容:
總結 綜上可以看出,利用同步方法和非同步方法制作的爬蟲的效率相差很大,因此,我們在實際製作爬蟲的過程中,也不妨可以考慮非同步爬蟲,多多利用非同步模組,如aysncio, aiohttp。另外,aiohttp只支援3.5.3以後的Python版本。
原文釋出時間為:2018-11-29 本文作者:jclian 本文來自雲棲社群合作伙伴“Python中文社群”,瞭解相關資訊可以關注“Python中文社群”。