●Facebook 創始人兼 CEO 朱克伯格(圖Mark Zuckerberg臉書)
Facebook 近日宣布,為更好提供新聞服務,他們裁撤了熱門話題(Trending Topics)項目的人工編輯團隊,由工程師通過算法(Algorithm)來核查和推送有價值的新聞及話題。但目前來看,這一決策引發了「一場災難」。
8月27日晚,算法推送了一則福克斯新聞(FOX News)女主播 Megyn Kelly 的消息,稱其因表態支持美國總統候選人希拉莉(Hillary Clinton)而被公司解僱,然而事實上,Megyn Kelly 從未表態支持希拉莉,也未被解僱。這條徹頭徹尾的假新聞由名不見經傳的網站 Ending the Fed 發布,此網站並不在原熱門話題人工編輯團隊列出的可靠新聞信源名單上,卻被算法冠以「爆炸性新聞」之名,在 Facebook 的推送上停留約8小時,獲得約20萬個「讃」。
此外,算法還為用戶推薦了 #McChicken 這個在 Twitter 上走紅的標籤,而它走紅的原因是有人發布了一名男子用「麥香雞」自慰的視頻;還有一條美國保守派暢銷書作家 Ann Coulter 在「週六夜現場」(Saturday Night Live)節目被反對者攻擊的新聞,標題用了聳人聽聞的「週六夜現場,Ann Coulter 被稱為種族主義賤貨」(SNL Star Calls Ann Coulter a Racist C*nt),而按照熱門話題舊時的編輯原則,類似這些帶有侮辱性或不雅的信息會被過濾。
「Facebook 是一家科技公司,我們提供工具,但並不生產任何內容。」
Facebook 創始人朱克伯格(Mark Zuckerberg)8月29日出席羅馬 Luiss 大學活動時表示
2014年,Facebook 在信息流(News Feed)上加入熱門話題功能,為用戶挑選熱點新聞。此後,關於 Facebook 公司立場與員工個人偏見是否會影響新聞篩選,引發不少爭議。今年5月,一名熱門話題項目前員工向媒體透露,該團隊工作人員會刻意壓制與保守派相關的新聞,以及內部存在管理與性別歧視等問題,引發輿論風波。Facebook 創始人兼 CEO 朱克伯格連帶被指責影響美國大選,美國參議院也第一時間要求 Facebook 給出解釋。
此事隨着朱克伯格約見保守派巨頭釋疑而不了了之。但據《衞報》消息,Facebook 內部在「很長一段時間裏」都在考慮解散這個團隊,並在8月26付諸實踐。整個場面不太友善,包括19名「消息策展人」(Curator)和7名文字編輯(Copyeditor)在內的團隊成員,在當天下午4點被通知遭解僱的消息,限時下午5點前離開公司大樓,還有一名保安在場監督
整個過程。這些離職員工據稱獲發了相當於6週工資的遣散費。
Facebook 官方發言聲稱,解散編輯團隊的目的在於,比起人力來說「算法能覆蓋更多話題,並為全球更多用戶提供服務」,但官方也保證在這一過程中,仍然有人力參與,使得推送的消息「維持高質量」。
《大西洋月刊》(The Atlantic Monthly)已經去信詢問 Facebook,這些算法推送的新聞是否經過人工篩選,以及公司會如何避免同樣問題再次出現,但尚未得到回覆。
這類問題在科技公司並不罕見。今年3月,微軟(Microsoft)曾在 Twitter 上線一個聊天機器人 Tay,將其設定為18至24歲的美國年輕女性,能從大量與真實人類的對話中學習語言不斷完善自己。而上線僅僅16小時後,微軟就不得不將「她」緊急下線,因為Tay已開始頻繁爆出粗口,其間充斥着種族歧視及侮辱女性的污言穢語。微軟隨後向公眾就此事表達歉意,同時聲稱這是一次「針對這一技術探索項目」的「薄弱點」開展的「有組織的攻擊」。
而波士頓大學與微軟研究院(Microsoft Research)合作的一項研究指出:當用算法進行性別和職業配對時,某些詞會被視為更男性化或更女性化,比如戰鬥機飛行員、計算機程序員、哲學家和上司等這些工作通常與「他」有關;而與「她」相關的職業包括社交名媛、家庭主夫/婦(homemaker)、理髮師和接待員扥。人類語言本身殘留的各種偏見同樣也被各種算法繼承。
來源:
衞報、
大西洋月刊、
路透社、
TechCrunch