生成式 AI 具備無窮潛力，不僅可以協助創作者在 YouTube 上揮灑創意，還能改變平台上觀眾和創作者的體驗。但把握這些機會的同時，我們必須擔起責任，維護 YouTube 社群的安全。無論生成或創作內容的方式是什麼，所有上傳至 YouTube 的內容都必須符合《社群規範》，而我們也瞭解 AI 可能會帶來新風險，因此必須有新的做法來應對。相關工作目前還在初步階段，在逐漸學習並進一步瞭解狀況後，我們也將持續改進我們的做法。以下是 YouTube 將於未來幾個月至明年將推出的更新內容：

揭露規定和全新內容標籤

為了符合所有人的利益，我們認為需要維護 YouTube 上健康的資訊生態系統，因此我們制定了長遠的政策，禁止透過技術手段操縱、誤導觀眾，並可能造成嚴重傷害風險的內容。不過，AI 強大且新穎的敘事形式，也可能被用於產出誤導觀眾的內容，尤其是在觀眾不知道影片經過變造或合成的情況下。為了解決這個問題，我們會在未來幾個月內推出更新，讓觀眾在看到這類內容時能夠被提醒。

具體而言，我們將提供新選項，要求創作者在上傳內容時，指出該內容是否經過變造、合成、或使用 AI 工具生成。例如，可能會有 AI 生成的影片，栩栩如生地描繪了某個從未發生的事件、或是某人從未說過的話、做過的事。若創作者持續選擇不揭露這項資訊，YouTube 可能會加以處置，包括移除內容、YouTube 合作夥伴計畫資格遭停權等。當然，在這項更新推出之前，我們將會與創作者合作，確保他們了解這些新的規範。

如果內容可能經過變造或合成，我們會以兩種方式告知觀眾：在說明面板中新增標籤，標示部分內容經過數位修改或生成；至於涉及敏感議題等特定內容類型，我們則會在影片播放器中加上更顯眼的標籤。

   

對於某些合成內容，單單加上標籤可能還是無法減輕帶來傷害的風險，因此不管是否有加上標籤，只要是違反《社群規範》的內容都會從 YouTube 下架，例如意圖使觀眾受到驚嚇或反感的寫實暴力合成影片，就可能被移除。

隨著這些更新項目的推出，由 YouTube 生成式 AI 產品或功能所創作的內容，也都將被明確標示為變更或合成內容。

供觀眾、創作者和藝人使用的新選項

我們持續收到來自 YouTube 社群的意見回饋，觀眾、創作者和藝人都曾對於新興科技可能帶來的影響表示疑慮 — 尤其當自己的臉孔或聲音在未經同意的情況下遭到數位生成，或是當自己的觀點遭到扭曲。

因此，在未來幾個月內，若影片由 AI 產生、經過合成或修改，且包含臉孔、聲音等可辨識個人身分的模擬內容，使用者就能根據隱私權申訴程序要求移除。我們在評估這些申訴要求時會考量多項因素，例如提出申訴要求的人，其身份是否能被正確辨識、內容是否為搞笑模仿或諷刺作品、或者內容是否以公職人員或知名人士為主角等，並非所有內容都會從 YouTube 移除。

此外，我們也會推出新功能供音樂合作夥伴使用：如果發現 AI 產生的音樂模仿藝人的獨特歌聲或饒舌內容，音樂合作夥伴可以要求移除。在決定是否核准移除要求時，我們會將一些因素納入考量，例如內容主題是否為新聞報導、分析或評論等，而這項移除要求將開放給代表參與 YouTube 早期 AI 音樂實驗的唱片公司或發布商，我們也會在未來幾個月內陸續開放給更多唱片公司或發布商。

部署 AI 技術，支援內容審核作業

YouTube 一向結合人工判讀和機器學習技術來落實《社群規範》，我們的系統採用 AI 分類器，先大規模偵測可能違反規範的內容，再由 Google 全球超過 2 萬名審查員確認該內容是否確實違反政策。透過 AI，內容審核系統的速度和準確率持續提升中，而其中一項顯著的影響便是辨認新的濫用形式。

當新威脅出現時，我們的系統沒有足夠的背景資訊來大規模地理解並加以辨識它們，但透過生成式 AI，我們迅速擴大了訓練 AI 分類器的資訊集，而這也意味著我們能夠在更短的時間內辨認並找出這類內容。此外，提升系統的速度和準確率，也讓我們的人工審查員能夠減少接觸有害內容。

打造負責任的 AI 工具和功能

當我們持續為創作者開發新的 AI 工具，我們在面對重大責任與挑戰時的做法始終不變，我們相信重點是花時間把事情做對，而不是追逐第一名的寶座。我們正仔細思考如何在多年的基礎上建立能夠處理內容審核作業的團隊和技術，包括投入大量心力，持續開發防護機制，避免 AI 工具生成不該出現在 YouTube 上的內容類型。

我們也知道，一定會有惡意行為人設法規避這些防護機制，因此我們將採納使用者的意見回饋，從中學習並持續改良機制。在我們公司內部，像是情報辦公室這樣的專門團隊，也特別著重對抗式測試和威脅偵測，以確保我們的系統能夠應對不斷出現的新挑戰。

AI 轉變近在眼前

對於在 YouTube 上運用 AI 解鎖新型態的創新與創意，我們還在這趟旅程的開端，並對這項科技的潛力感到無比興奮，而我們也深知在未來幾年內，接下來的變革將在創意產業中產生迴響。在這個關鍵時刻，我們正投入心思與時間力求平衡，在這項技術帶來龐大效益的同時，確保我們持續維護這個社群的安全，我們將與創作者、藝人、以及創意產業的各方人士攜手打造一個人人受惠的未來。



本文作者：YouTube 產品管理副總裁 Jennifer Flannery O’Connor、YouTube 產品管理副總裁 Emily Moxley