Python 爬取 13 個旅遊城市,告訴你五一大家最愛去哪玩?
五一假期已經結束,小夥伴是不是都還沒有玩過癮?但是沒辦法,還有很多bug等著我們去寫,同樣還有需要money需要我們去賺。為了生活總的拼搏。
今年五一放了四天假,很多人不再只是選擇周邊遊,因為時間充裕,選擇了稍微遠一點的景區,甚至出國遊。各個景點成了人山人海,擁擠的人群,甚至去衛生間都要排隊半天,那一刻我突然有點理解滅霸的行為了。
今天,通過分析去哪兒網部分城市門票售賣情況,簡單的分析一下哪些景點比較受歡迎。等下次假期可以做個參考。
通過請求https://piao.qunar.com/ticket/list.htm?keyword=北京,獲取北京地區熱門景區資訊,再通過BeautifulSoup去分析提取出我們需要的資訊。
這裡為了偷懶只爬取了前4頁的景點資訊,每頁有15個景點。因為去哪兒並沒有什麼反爬措施,所以直接請求就可以了。
這裡只是隨機選擇了13個熱門城市:北京, 上海, 成都, 三亞, 廣州, 重慶, 深圳, 西安, 杭州, 廈門, 武漢, 大連, 蘇州。
並將爬取的資料存到了MongoDB資料庫 。
爬蟲部分完整程式碼如下
import requests from bs4 import BeautifulSoup from pymongo import MongoClient class QuNaEr(): def __init__(self, keyword, page=1): self.keyword = keyword self.page = page def qne_spider(self): url = 'https://piao.qunar.com/ticket/list.htm?keyword=%s®ion=&from=mpl_search_suggest&page=%s' % (self.keyword, self.page) response = requests.get(url) response.encoding = 'utf-8' text = response.text bs_obj = BeautifulSoup(text, 'html.parser') arr = bs_obj.find('div', {'class': 'result_list'}).contents for i in arr: info = i.attrs # 景區名稱 name = info.get('data-sight-name') # 地址 address = info.get('data-address') # 近期售票數 count = info.get('data-sale-count') # 經緯度 point = info.get('data-point') # 起始價格 price = i.find('span', {'class': 'sight_item_price'}) price = price.find_all('em') price = price[0].text conn = MongoClient('localhost', port=27017) db = conn.QuNaEr # 庫 table = db.qunaer_51 # 表 table.insert_one({ 'name':name, 'address':address, 'count':int(count), 'point':point, 'price':float(price), 'city':self.keyword }) if __name__ == '__main__': citys = ['北京', '上海', '成都', '三亞', '廣州', '重慶', '深圳', '西安', '杭州', '廈門', '武漢', '大連', '蘇州'] for i in citys: for page in range(1, 5): qne = QuNaEr(i, page=page) qne.qne_spider()
效果圖如下
有了資料,我們就可以分析出自己想要的東西了
1、最受歡迎的15個景區
由圖可以看出,在選擇的13個城市中,最熱門的景區為上海的迪士尼樂園
程式碼如下
from pymongo import MongoClient # 設定字型,不然無法顯示中文 from pylab import * mpl.rcParams['font.sans-serif'] = ['SimHei'] conn = MongoClient('localhost', port=27017) db = conn.QuNaEr # 庫 table = db.qunaer_51 # 表 result = table.find().sort([('count', -1)]).limit(15) # x,y軸資料 x_arr = []# 景區名稱 y_arr = []# 銷量 for i in result: x_arr.append(i['name']) y_arr.append(i['count']) """ 去哪兒月銷量排行榜 """ plt.bar(x_arr, y_arr, color='rgb')# 指定color,不然所有的柱體都會是一個顏色 plt.gcf().autofmt_xdate() # 旋轉x軸,避免重疊 plt.xlabel(u'景點名稱')# x軸描述資訊 plt.ylabel(u'月銷量')# y軸描述資訊 plt.title(u'拉鉤景點月銷量統計表')# 指定圖表描述資訊 plt.ylim(0, 4000)# 指定Y軸的高度 plt.savefig('去哪兒月銷售量排行榜')# 儲存為圖片 plt.show()
2、景區熱力圖
這裡為了方(tou)便(lan),只展示一下北京地區的景區熱力圖。用到了百度地圖的開放平臺。首先需要先註冊開發者資訊,首頁底部有個 申請祕鑰 的按鈕,點選進行建立就可以了。我的應用型別選擇的是瀏覽器端,因此只需要組裝資料替換掉相應html程式碼即可。另外還需要將自己訪問應用的AK替換掉。效果圖如下
3、景區價格
價格是出遊第一個要考慮的,一開始想統計一下各城市的平均價格,但是後來發現效果不是很好,比如北京的劉老根大舞臺價格在580元,這樣拉高了平均價格。就好比姚明和潘長江的平均身高在190cm,並沒有什麼說服力。所以索性展示一下景區的價格分佈。
根據價格設定了六個區間
通過上圖得知,大部分的景區門票價格都在200元以下。每次旅遊花費基本都在交通、住宿、吃吃喝喝上了。門票佔比還是比較少的。
程式碼如下
arr = [[0, 50], [50,100], [100, 200], [200,300], [300,500], [500,1000]] name_arr = [] total_arr = [] for i in arr: result = table.count({'price': {'$gte': i[0], '$lt': i[1]}}) name = '%s元 ~ %s元 ' % (i[0], i[1]) name_arr.append(name) total_arr.append(result) color = 'red', 'orange', 'green', 'blue', 'gray', 'goldenrod' # 各類別顏色 explode = (0.2, 0, 0, 0, 0, 0)# 各類別的偏移半徑 # 繪製餅狀圖 pie = plt.pie(total_arr, colors=color, explode=explode, labels=name_arr, shadow=True, autopct='%1.1f%%') plt.axis('equal') plt.title(u'熱點旅遊景區門票價格比例', fontsize=12) plt.legend(loc=0, bbox_to_anchor=(0.82, 1))# 圖例 # 設定legend的字型大小 leg = plt.gca().get_legend() ltext = leg.get_texts() plt.setp(ltext, fontsize=6) # 顯示圖 plt.show()
最後歡迎大家關注我的公眾號,每天都會努力分享各種乾貨