鍵盤俠太猖狂 谷歌用AI給網絡“攻擊力”打分 2016年09月21日10:27 來源：|
電影《搜索》描述了這樣一個畫面：高圓圓飾演的女主因為在車上沒有給老人讓座，有人將這段視頻傳到網絡，引發了廣大網友對她進行人肉搜索。一時間，鋪天蓋地的辱罵、嘲諷、詛咒充斥著她的生活，最后女主選擇用跳樓來結束自己的生命。如今，這已經不再只是電影中才出現的畫面。隨著互聯網滲入我們生活的方方面面，網絡暴力、道德綁架，越來越多的鍵盤俠們用不負責任的言語在網上肆意攻擊他人。
據國外媒體報道，美國網民在最早接觸網絡的同時，也最先受到網絡造謠誹謗之害。根據美國獨立民調機構皮尤研究中心2014年的一份調查，每10個網民中就有4人遭遇過某種形式的網絡騷擾，近五分之一互聯網用戶遭遇過嚴重的網絡暴力，包括人身威脅、持續性的跟蹤騷擾。
網絡安全已經成為我們不得不重視的一個問題。面對互聯網海量的言論和信息，人工檢測網絡暴力信息的確費時費力，這時候，人工就派上用場了。
Facebook和Google等都開始嘗試結合人工智能等技術來過濾網絡不良言論。就連一向以言論自由著稱的Twitter也開始允許用戶設置一些關鍵詞來屏蔽騷擾信息：
Facebook機器學習小組使用機器學習技術監測所有上載到Facebook的圖片的內容，包括的內容，用來過濾其中色情、暴力等內容。
Google的SafeSearch（安全檢索）功能使用了機器學習來識別色情圖片，可給未成年人提供健康正常的網絡瀏覽與檢索。
Twitter收購了兩家視覺媒體內容監測創業公司Madbits和Whetlab，運用它們的人工神經網絡技術實現色情內容。
近日，谷歌又推出了一款人工智能技術支撐的全新工具，名為“ConversationAI”。這個新軟件能夠幫助用戶不受網絡有害言論的威脅。
ConversationAI通過機器學習技術，自動捕捉網絡上的污言穢語，并給它的攻擊力評分——100分是最有害的，0分是無害的。這個工具將會首先在《紐約時報》的注釋版塊進行測試，維基百科也計劃將會使用這款應用。不過據《有線》雜志稱，該公司并沒有透露測試的具體細節。
由于該技術最終將成為開源的，所以在不久的將來，全球的網站和各類社交媒體平臺，都可以用它幫助用戶逃過暴力言論的傷害。《有線》表示，ConversationAI可以“自動識別出、騷擾的言論，甚至還能幫你刪除它。”
雖然ConversationAI在測試中被發現存在一些缺陷，但是谷歌透露，它的準確度已達92%，并且隨著時間的推移，功能將會不斷完善。
責任編輯：姚泓澤
