辨識AI數位生成內容 數發部：可導入相關偵測技術

發佈時間：2024.05.08

近期數位發展部積極推動運用AI技術「促進資訊完整性」，除了在年初舉辦審議式民主活動外，也邀請國際重要廠商，包括Meta、Google、Microsoft和OpenAI進行交流對話，確認AI應具備「可信任、準確性和安全性」等特性，以滿足社會對各種AI應用服務的需求。

數發部8日舉記者會說明，4月中旬邀集Meta、Google、Microsoft和OpenAI等重要AI國際廠商，針對平臺的分析及辨別機制、及將語言模型（LLM）提送AI評測中心等議題進行討論。與會廠商一致認為，AI應具備「可信任、準確性和安全性」等重要特性。

數位產業署副署長林俊秀說明，AI國際廠商在開發語言模型過程中，團隊都會持續進行測試和調整，目前國際廠商對於自身開發的語言模型，提供給台灣AI產品與系統評測中心進行評測，皆持正向態度。

數發部表示，在處理生成式AI內容的分析和辨識方面，國際領先企業於會議中提出多項相關措施，這些措施包括運用SynthID技術。這是一種用於AI生成圖片的偵測技術，可用於建立浮水印或檢測AI生成圖片中的浮水印，以便更容易識別AI生成圖片。此外，他們還提出了溯源標註及簽章、用戶檢舉機制，以及提醒用戶注意AI生成內容等方法。林俊秀指出，目前Google已對AI生成的廣告以及Youtube內容已進行標註，OpenAI也導入C2PA的溯源機制。

數發部說明，未來將持續敦促網路平臺業者推動資訊辨別與分析機制，並提倡使用者在網路平台上發布內容時，若包含深偽技術或AI生成的個人影像，應明確說明或標註，以確保資訊的完整性。

數發部也呼籲，面對AI技術帶來的挑戰，需要政府、平臺和民眾共同努力，建立透明的監管機制，加強對AI生成內容的辨識能力，以確保資訊的真實性與完整性。(復興電台新聞組採編)