全球有數十億用戶因各式各樣的原因來到 YouTube，無論是想觀看難以找到的音樂會或計劃學習新的技能，YouTube 都能讓觀眾接觸到豐富多元的內容和觀點。這一切都仰賴我們不遺餘力地實踐保護 YouTube 社群的承諾，這項核心原則推動我們所有系統並作為產品的各面向基礎。

我們在今年將分享一系列關於 YouTube 如何應對重大挑戰的幕後故事，並讓使用者了解我們在考量每項行動背後的複雜影響和利弊。在未來推出的文章中，我們將探索不同主題，例如我們的政策發展事務、揭露處理棘手問題背後的考量，或者勾勒出平台責任的重要里程碑。在這系列文章的第一篇，我想要深入探討 YouTube 如何長期處理平台上疑似有害的不實資訊。

在過去的五年裡，我們一直投入大量資源，用以構建我們稱之為「4R」的平台責任架構。借助機器學習和人工審閱，我們得以快速移除違規內容、提供可靠的訊息來源並阻止問題內容的傳播（我在部落格文章中深入討論過原因）。結合使用這些工具，對於在減少不當內容的觀看次數的同時，仍保留平台的自由言論空間至關重要。但隨著不實資訊擴散的速度和範圍遠超以往，我們也需要與時俱進地做出因應。以下是我們的團隊接下來要應對的三大挑戰。

YouTube 4R 平台責任架構：移除、優先顯示、減少推薦、獎勵 

在新型態不實資訊被快速傳播前搶先掌握

多年來，網路不實資訊領域主要充斥著這幾類內容論述：911 真相陰謀論、阿波羅登月計畫陰謀論和地平說支持者。這些歷久不衰的陰謀論，在長時間累積下發展出一系列內容，使我們能夠根據該類內容的模式訓練機器學習系統，以減少推薦這類影片和其他類似內容的影片。但是，越來越多全新的論述內容快速湧現並獲得觀看次數，或者一些論述也會在不同主題間轉換，像是一些和整體身心健康相關的內容，也會導致對疫苗猶豫(vaccine hesitancy)。每種論述的表現手法和傳播方式可能千差地遠，甚至可以因地制宜產生內容變化。

我們在 COVID-19 疫情初期便面臨了這些挑戰，像是懷疑 5G 基地台造成新型冠狀病毒傳播的陰謀論，導致人們在英國燒毀了多座手機基地台。由於這類內容明顯對現實世界造成傷害，我們於是更新了相關政策，並將這類內容界定為違規內容。我們能在此個案中迅速反應，是由於我們已經根據當地和全球衛生機構的指導意見制定了針對 COVID-19 不實資訊的處理政策。

不過，未來在應對傳播快速的不實資訊內容時，我們未必都剛好有相關的專家指引可參考，並據以制訂政策，加上面對越新的不實資訊，我們可以用來訓練系統的例子就越少。為了解決這個問題，我們不斷訓練系統識別新的資料。我們想方設法利用更著重目標的分類器組合、多種語言的關鍵字，以及來自各個區域分析師的資訊，來偵測我們的主要分類器無法捕捉到的不實訊息內容。久而久之，我們將能更快速且更準確的掌握這些迅速傳播的不實資訊論述。

除了減少特定內容的傳播外，我們的系統也會透過搜尋結果或推薦機制將觀眾連結至內容可靠的影片。但面對某些缺乏可靠訊息來源的內容主題時，我們稱這類情況為資料空洞(data voids)，例如像自然災害這樣的突發新聞事件，我們可能會在事發後立即看到未經證實的事發原因推測和人員傷亡等內容。可靠的影片內容可能需要一些時間創建，因此在不實資訊快速傳播下，我們在短時間內可以導向的可靠內容未必足夠。

對於自然災害這類重大的新聞事件，我們會提供相關報導的新聞面板導引觀眾到重大新聞事件的新聞文章。對於媒體較少報導的特定內容，我們也會提供事實查核區塊( fact check boxes)。不過，事實查核也需要時間，而且並非所有內容都會及時被查核。這也是為什麼我們持續探索運用不同類型的標籤添加到影片或搜尋結果中，以警告觀眾相關內容可能缺乏可靠訊息來源。與此同時，我們還必須權衡顯示標籤是否會在無意中讓原本乏人問津的主題反倒成為焦點。我們的團隊正在積極討論這些考量面向，以期找到合適的應對方法。

應對不實資訊的跨平台傳播

另一項挑戰是遊走在違規邊緣的影片(borderline videos)在 YouTube 以外傳播。這些影片沒有明確違反 YouTube 社群規範，但我們也不想要將它們推薦給觀眾。我們已改進了推薦系統，違規邊緣內容透過推薦系統被看到的比率，目前已大幅降低至不到 1%。但即使我們不推薦某個違規邊緣的影片，該影片可能仍會因為其他網站的連結引導或嵌入該 YouTube 影片而獲得觀看次數。

因應此問題的一個可能方式是停用「分享」按鈕，或針對我們已經限制推薦的影片，讓其連結失效。這麼做意味著使用者無法在其他網站上嵌入或連結到遊走違規邊緣的影片。但令人為難的是，阻止觀眾分享影片也可能是過分限制觀眾自由的措施。我們的系統會減少推薦違規邊緣的內容，但分享影片連結是個人的主動選擇，和觀看系統推薦的影片此一被動動作截然不同。

提供背景脈絡也是我們的優先考量，面對那些嵌入在研究報告或新聞報導中的遊走違規邊緣影片，可能需要特例處理或採取不同的處置方式應對。我們需要謹慎的在限制疑似有害不實訊息傳播的同時，為敏感和有爭議的議題保留討論和教育的空間。

另一種可能的方式是在觀眾觀看嵌入或連結到違規邊緣內容的影片之前，插播顯示一則插頁式內容，讓他們知道該內容可能包含不實資訊。插頁式內容具有緩衝作用，能夠讓觀眾在觀看或分享內容之前，先停下來思考一下。實際上，我們已在設有年齡限制的內容以及暴力或血腥影片中使用插頁式內容，並將其視為重要工具，讓觀眾可選擇是否要收看即將播放的影片。

我們將持續謹慎探索不同的選擇，以確保限制有害的不實資訊在網路上傳播。

在全球加強應對不實資訊

我們遏止不實資訊的措施已取得實際成效，但要將相關措施推廣至 YouTube 服務支援的超過 100 個國家和數十種語言，仍然是一項複雜的工作。

文化差異使得人們對可靠資訊來源的定義有著截然不同的態度。在部分國家或地區，像是英國 BBC 等的公共電視台被廣泛認為是可靠的新聞來源，但在其他國家或地區，公共電視台卻比較偏向作為當地政府的宣傳管道。不同國家或地區的新聞及資訊生態系統亦有所不同，有些地方的媒體對新聞內容有較嚴格的事實查證標準，有些卻不太重視監管或查證。此外，政治環境、歷史背景和突發新聞事件也可能會造成當地特有的不實資訊，這類內容不會在世界上其他國家或地區出現。例如，茲卡病毒(Zika) 在巴西爆發期間，有些人便將此疾病歸咎於國際陰謀論；或是去年在日本，網路上有流言聲稱某場地震是人工干預的結果。

面對這種地區多樣性，我們的團隊遇到了與面對新型態不實資訊時相同的問題，包括不斷變化更新的內容論述，以及缺乏可靠的訊息來源。例如，我們在疫情初期發現部分國家或地區的衛生機關沒有提供最新的研究資料，而一些當地政府機關有時甚至會提供不同的規範指引。

被認定為違規邊緣內容的定義在不同國家和地區亦可能截然不同。我們持續思考如何在不同的語言和文化中，對 YouTube 內容評估人員發出的規範指引作出不同的詮釋。我們也花上不少時間與本地團隊和專家溝通，說明不同文化背景可影響影片是否被歸類為違規邊緣內容。

除了不斷吸引了解不實資訊地區性差異的人才加入團隊外，我們亦尋求更多與全球各地的專家和非政府組織合作的機會。此外，我們還會採用與應對網路上瘋傳主題的相同方式，找出增加更新模型頻率的方法，以便偵測當地特有的不實資訊，同時支援當地語言。

以公開透明為基礎

YouTube 將繼續努力改善所有的產品和政策，以減少有害不實資訊，並同時讓多元聲音可以持續蓬勃發展。我們未必可以解決所有問題，但我們認為有必要和外界分享我們正在思考的問題。進一步改善平台並保障社群的安全和身心健康是當務之急，我期待能繼續分享過程中的最新進展。



本文作者：YouTube 產品長 Neal Mohan