機器學習高質量資料集大合輯
在機器學習中,尋找資料集也是非常重要的一步。質量高或者相關性高的資料集對模型的訓練是非常有幫助的。
那麼用於機器學習的開放資料集有哪些呢?文摘菌給大家推薦一份高質量的資料集,這些資料集或者涵蓋範圍廣泛(比如 Kaggle),或者非常細化(比如自動駕駛汽車的資料)。
首先,在搜尋資料集時,在卡內基·梅隆大學有以下說法:
-
資料集不應混亂,因為你不希望花費大量時間清理資料。
-
資料集不應該有太多行或列,因此很容易使用。
-
資料越乾淨越好 —— 清洗大型資料集相當耗時。
-
資料可以解答一些有趣的問題。
資料集查詢器
Kaggle: Kaggle是由聯合創始人、執行長安東尼·高德布盧姆(Anthony Goldbloom)2010年在墨爾本創立的,主要為開發商和資料科學家提供舉辦機器學習競賽、託管資料庫、編寫和分享程式碼的平臺。該平臺已經吸引了80萬名資料科學家的關注。在這個平臺中可以找到各種資料,從拉麵的評分、籃球資料,到西雅圖的寵物牌照應有盡有。
ofollow,noindex" target="_blank">https://www.kaggle.com/
UCI機器學習庫(UCIMachine LearningRepository): 這是網路上最早的資料集來源之一,是尋找各種有趣資料集的第一選擇。雖然使用者提供的資料集的清潔度不太一樣,但絕大多數都是乾淨的。我們可以從 UCI機器學習庫直接下載資料,無需註冊。
VisualData:在這裡計算機視覺資料集按類別分組,並且支援搜尋查詢。
公共政府資料集
Data.gov:在這裡可以下載到多個美國政府機構的資料。從政府預算到學校成績。但要注意的是,很多資料還有待進一步研究。
食品環境地圖集(Food Environment Atlas):當地的食物選擇如何影響美國飲食的資料。
https://catalog.data.gov/dataset/food-environment-atlas-f4a22
學校系統財務狀況(School system finances):這裡有美國學校系統財務狀況的調查。
https://catalog.data.gov/dataset/annual-survey-of-school-system-finances
慢性病資料(Chronic disease data):美國各地慢性病指標的資料。
https://catalog.data.gov/dataset/u-s-chronic-disease-indicators-cdi-e50c9
美國國家教育統計中心(The US National Center for Education Statistics):來自美國和世界各地的教育機構和教育人口統計資料。
英國資料服務:英國最大的社會、經濟和人口資料收集機構。
https://www.ukdataservice.ac.uk/
資料美國(Data USA):全面的、視覺化的美國公共資料。
金融和經濟
Quandl: 裡面有很多經濟和金融資料,你可以使用這些資料建立預測經濟指標或股價的模型。
世界銀行開放資料(World Bank Open Data):涵蓋世界各地人口統計、大量經濟和發展指標的資料集。
貨幣基金組織的資料(IMF Data):國際貨幣基金組織公佈關於國際金融、債務率、外匯儲備、商品價格和投資的資料。
英國金融時報金融時報市場資料(Financial Times Market Data:):裡面有來自世界各地的最新金融市場資訊,包括股票價格指數、商品和外匯。
谷歌趨勢(Google Trends):觀察和分析有關網際網路搜尋活動和世界各地新聞故事趨勢的資料。
http://www.google.com/trends?q=google&ctab=0&geo=all&date=all&sort=0
美國經濟協會(AEA):這這裡你可以找到美國巨集觀經濟的相關資料。
https://www.aeaweb.org/resources/data/us-macro-regional
機器學習資料集
Labelme:資料集中包含大量有標註的影象資料。
http://labelme.csail.mit.edu/Release3.0/browserTools/php/dataset.php
ImageNet: 是一個用於視覺物件識別軟體研究的大型視覺化資料庫。超過1400萬的影象URL被ImageNet手動註釋。根據 WordNet 層次結構來組織,其中層次結構的每個節點都由成百上千個影象來描述。
http://image-net.org/
LSUN:場景理解與許多輔助任務(房間佈局估計,顯著性預測等)
http://lsun.cs.princeton.edu/2016/
MS COCO:通用影象的理解和文字描述。
http://mscoco.org/
COIL 100:在 360 度旋轉中以各個角度成像的 100 個不同的物體。
http://www1.cs.columbia.edu/CAVE/software/softlib/coil-100.php
視覺基因組:非常詳細的視覺知識庫,配以0 萬張帶有文字描述的影象。
http://visualgenome.org/
谷歌的Open Images:“知識共享”(Creative Commons)下的900萬個影象網址集合,已標註超過6,000個類別的標籤。
https://research.googleblog.com/2016/09/introducing-open-images-dataset.html
Labelled Faces in the Wild:13,000個人臉標記影象,用於開發涉及面部識別的應用程式。
http://vis-www.cs.umass.edu/lfw/
Stanford Dogs Dataset:包含20580張圖片和120個不同的狗品種類別。
http://vision.stanford.edu/aditya86/ImageNetDogs/
室內場景識別(Indoor Scene Recognition):這是一個非常細化的資料集,由於大多數在“戶外”場景中表現良好的場景識別模型在室內表現不佳,因而這個資料集非常有用。內有 67 個室內類別,共 15,620 張影象。
http://web.mit.edu/torralba/www/indoor.html
多域情感分析資料集(Multidomain sentiment analysis dataset):一個比較有歷史的資料集,裡面還有一些來自亞馬遜的產品評論。
http://www.cs.jhu.edu/~mdredze/datasets/sentiment/
IMDB:影評,也是比較有歷史的二元情緒分類資料集、資料規模相對較小,裡面有 25,000 條電影評論。
http://ai.stanford.edu/~amaas/data/sentiment/
斯坦福情感樹銀行(Stanford Sentiment Treebank):帶有情感註釋的標準情緒資料集。
http://nlp.stanford.edu/sentiment/code.html
Sentiment140:一個流行的資料集,它使用16萬條推文,並把表情等等符號剔除了。
http://help.sentiment140.com/for-students/
Twitter 美國航空公司情緒資料集 (Twitter US Airline Sentiment):自 2015 年 2 月以來美國航空公司的 Twitter 資料,分類為正面、負面和中性推文。
https://www.kaggle.com/crowdflower/twitter-airline-sentiment
自然語言處理
安然資料集:裡面有安然集團高階管理層的電子郵件資料。
https://www.cs.cmu.edu/~./enron/
亞馬遜評論:裡面有3500萬條來自亞馬遜的評論,時間長度為18年。資料包括產品和使用者資訊、評級等。
https://snap.stanford.edu/data/web-Amazon.html
Google Books Ngram:來自Google書籍的詞彙集合。
https://aws.amazon.com/datasets/google-books-ngrams/
部落格語料庫: 從blogger.com收集的681,288篇部落格文章。每個部落格至少包含200個常用的英語單詞。
http://u.cs.biu.ac.il/~koppel/BlogCorpus.htm
維基百科連結資料(Wikipedia Links data):維基百科全文。該資料集包含來自400多萬篇文章,近19億字。你可以對字、短語或段落本身的一部分進行搜尋。
https://code.google.com/p/wiki-links/downloads/list
Gutenberg電子圖書列表:Project Gutenberg的附加註釋的電子書列表。
http://www.gutenberg.org/wiki/Gutenberg:Offline_Catalogs
加拿大議會的文字塊(Hansards text chunks of Canadian Parliament):來自第36屆加拿大議會記錄的130萬對文字。
http://www.isi.edu/natural-language/download/hansard/
危險邊緣 (Jeopardy):來自問答遊戲節目《危險邊緣》(Jeopardy) 的超過 20 萬個問題的存檔。
http://www.reddit.com/r/datasets/comments/1uyd0t/200000_jeopardy_questions_in_a_json_file/
英文SMS垃圾郵件收集(SMS Spam Collection in English):包含5,574條英文垃圾郵件的資料集。
http://www.dt.fee.unicamp.br/~tiago/smsspamcollection/
Yelp評論(Yelp Reviews):Yelp釋出的一個開放資料集,包含超過500萬次評論。
https://www.yelp.com/dataset
UCI的垃圾郵件庫(UCI’s Spambase):一個大型垃圾郵件資料集,用於垃圾郵件過濾。
https://archive.ics.uci.edu/ml/datasets/Spambase
自動駕駛
Berkeley DeepDrive BDD100k:這是目前最大的自動駕駛資料集。裡面有超過 1,100 多個小時駕駛體驗的視訊,包含10 萬個在一天中不同時段以及在不同天氣條件下的資料。
http://bdd-data.berkeley.edu/
百度 Apolloscapes:大型資料集,定義了26種不同的語義項,如汽車,自行車,行人,建築物,路燈等。
http://apolloscape.auto/
Comma.ai:超過7個小時的高速公路駕駛視訊。裡面的資料包括汽車的速度、加速度、轉向角和GPS座標。
https://archive.org/details/comma-dataset
城市景觀資料集:記錄50個不同城市的城市街道場景的大型資料集。
https://www.cityscapes-dataset.com/
CSSAD資料集:包含自動車輛的感知和導航等資料,但著重於發達國家的道路。
http://aplicaciones.cimat.mx/Personal/jbhayet/ccsad-dataset
麻省理工學院AGE實驗室(MIT AGE Lab:):在AgeLab收集的1,000多小時多感測器駕駛資料集的樣本。
http://lexfridman.com/automated-synchronization-of-driving-data-video-audio-telemetry-accelerometer/
LISA:智慧和安全汽車實驗室,加州大學聖地亞哥分校資料集:該資料集包括交通標誌,車輛檢測,交通訊號燈和軌跡模式。
http://cvrr.ucsd.edu/LISA/datasets.html
博世小型交通燈資料集(Bosch Small Traffic Light Dataset):用於深入學習的小交通燈資料集。
https://hci.iwr.uni-heidelberg.de/node/6132
Lara交通燈識別(LaRa Traffic Light Recognition):巴黎交通燈的資料集。
http://www.lara.prd.fr/benchmarks/trafficlightsrecognition
WPI 資料集:交通燈、行人和車道檢測的資料集。
http://computing.wpi.edu/dataset.html
相關報道:
https://medium.com/datadriveninvestor/the-50-best-public-datasets-for-machine-learning-d80e9f030279
工程 機器學習 資料集 公共服務 智慧金融 情感分析 自然語言處理 自動駕駛
相關資料
Autonomous cars
自動駕駛汽車,又稱為無人駕駛汽車、電腦駕駛汽車或輪式移動機器人,是自動化載具的一種,具有傳統汽車的運輸能力。作為自動化載具,自動駕駛汽車不需要人為操作即能感測其環境及導航。
來源: 維基百科
Computer Vision
計算機視覺(CV)是指機器感知環境的能力。這一技術類別中的經典任務有影象形成、影象處理、影象提取和影象的三維推理。目標識別和麵部識別也是很重要的研究領域。
來源:機器之心
ImageNet
Knowledge base
知識庫是用於知識管理的一種特殊的資料庫,以便於有關領域知識的採集、整理以及提取。知識庫中的知識源於領域專家,它是求解問題所需領域知識的集合,包括基本事實、規則和其它有關資訊。
來源: 維基百科
Machine Learning
機器學習是人工智慧的一個分支,是一門多領域交叉學科,涉及概率論、統計學、逼近論、凸分析、計算複雜性理論等多門學科。機器學習理論主要是設計和分析一些讓計算機可以自動“學習”的演算法。因為學習演算法中涉及了大量的統計學理論,機器學習與推斷統計學聯絡尤為密切,也被稱為統計學習理論。演算法設計方面,機器學習理論關注可以實現的,行之有效的學習演算法。
來源:Mitchell, T. (1997). Machine Learning. McGraw Hill.
Natural language processing
自然語言處理(英語:natural language processing,縮寫作 NLP)是人工智慧和語言學領域的分支學科。此領域探討如何處理及運用自然語言;自然語言認知則是指讓電腦“懂”人類的語言。自然語言生成系統把計算機資料轉化為自然語言。自然語言理解系統把自然語言轉化為計算機程式更易於處理的形式。
來源: 維基百科
self-driving
從 20 世紀 80 年代首次成功演示以來(Dickmanns & Mysliwetz (1992); Dickmanns & Graefe (1988); Thorpe et al. (1988)),自動駕駛汽車領域已經取得了巨大進展。儘管有了這些進展,但在任意複雜環境中實現完全自動駕駛導航仍被認為還需要數十年的發展。原因有兩個:首先,在複雜的動態環境中執行的自動駕駛系統需要人工智慧歸納不可預測的情境,從而進行實時推論。第二,資訊性決策需要準確的感知,目前大部分已有的計算機視覺系統有一定的錯誤率,這是自動駕駛導航所無法接受的。
來源: 機器之心
perception
知覺或感知是外界刺激作用於感官時,腦對外界的整體的看法和理解,為我們對外界的感官資訊進行組織和解釋。在認知科學中,也可看作一組程式,包括獲取資訊、理解資訊、篩選資訊、組織資訊。與感覺不同,知覺反映的是由物件的各樣屬性及關係構成的整體。
來源: 維基百科
categorical data
一種特徵,擁有一組離散的可能值。以某個名為 house style 的分類特徵為例,該特徵擁有一組離散的可能值(共三個),即 Tudor, ranch, colonial。通過將 house style 表示成分類資料,相應模型可以學習 Tudor、ranch 和 colonial 分別對房價的影響。 有時,離散集中的值是互斥的,只能將其中一個值應用於指定樣本。例如,car maker 分類特徵可能只允許一個樣本有一個值 (Toyota)。在其他情況下,則可以應用多個值。一輛車可能會被噴塗多種不同的顏色,因此,car color 分類特徵可能會允許單個樣本具有多個值(例如 red 和 white)。