Instagram正在使用AI來檢測照片和文字中的欺凌行為

摘要： 去年，Instagram推出了一個增強的評論過濾器，該過濾器使用機器學習在具有挑戰性的環境中發現令人反感的單詞和短語。現在，該公司正在擴大這項功能覆蓋範圍。今天，它宣佈它將使用AI“主動檢測欺凌”，然後再將內容傳送給人類審查者進行復查。新功能將在未來幾周內推廣給使用者，並將在10月...

這是新Instagram執行長亞當·莫塞裡（Adam Mosseri）在上個月聯合創始人凱文·西斯特羅姆（Kevin Systrom）和邁克·克里格（Mike Krieger）倉促離職後接手的第一個產品公告。據報道，這一分歧是由於Instagram公司和母公司Facebook之間的緊張關係引發的，該公司經常插手Instagram的產品。

隨著公眾對Facebook的信任繼續下降，Instagram仍然是該公司產品陣容的亮點。它受歡迎，有利可圖，而且還有可能被Facebook醜聞所玷汙。在這種情況下，使用人工智慧來幫助清除令人反感的內容並讓Instagram成為一個擁有良好氛圍的家園是非常重要的。

去年在Wired發表的一篇報道解釋了Instagram的機器學習評論過濾器的一些細節，但已經確定這種技術不適合內容稽核。大規模部署人工智慧是便宜的，是的，但它仍然無法處理內容背景和細微差別。這就是為什麼這些新的欺凌過濾器還向人類稽核者傳送內容以執行最終檢查，沒有監督的自動化是一種災難。