微軟新專利：“惡意遮蔽”功能來減緩網路欺凌問題
摘要：
多年來多公司努力嘗試解決網路欺凌問題，甚至嘗試利用機器學習等AI技術來識別線上欺凌事件。不過在可以自由表達自己情緒的網際網路世界裡，“惡意”的虛擬環境反而成為此類事件猖獗的溫床。然而每個人對“惡意”網路環境的定義都存在差別，對於可能冒犯他人的話語有不同的觀點和解釋。
訪...
多年來多公司努力嘗試解決網路欺凌問題，甚至嘗試利用機器學習等AI技術來識別線上欺凌事件。不過在可以自由表達自己情緒的網際網路世界裡，“惡意”的虛擬環境反而成為此類事件猖獗的溫床。然而每個人對“惡意”網路環境的定義都存在差別，對於可能冒犯他人的話語有不同的觀點和解釋。
訪問:
微軟似乎帶來了一個非常有趣的解決方案，在最新專利中設想了一個個性化的“惡意遮蔽”功能，可以根據使用者的喜好監控通訊和審查資料。這些通訊可以包括基於語音或基於文字的聊天，例如多人遊戲會話中的聊天，甚至可以擴充套件至 視訊 直播中的圖形展示。此外該系統還可以部署到線上Web會議或者VR/AR會話中。
“惡意遮蔽”會過濾的內容不僅包括咒罵，還可能包括各種不良行為，例如有人在麥克風前大口喘息，或者在虛擬環境中離你靠的太近。“惡意遮蔽”可以分析“公差資料”以部署特定於使用者的毒性遮蔽模組（TSM），這些TSM還可以基於通過機器學習引擎生成的預測模型，該機器學習引擎分析對毒性行為的反應。可以選擇預設配置檔案以向引擎提供其所需的所有資訊，而使用者也可以為相同目的手動設定。