數位發展部部長唐鳳 (圖片來源:數發部提供)
辨識AI數位生成內容 數發部:可導入相關偵測技術
發佈時間:2024.05.08
近期數位發展部積極推動運用AI技術「促進資訊完整性」,除了在年初舉辦審議式民主活動外,也邀請國際重要廠商,包括Meta、Google、Microsoft和OpenAI進行交流對話,確認AI應具備「可信任、準確性和安全性」等特性,以滿足社會對各種AI應用服務的需求。
數發部8日舉記者會說明,4月中旬邀集Meta、Google、Microsoft和OpenAI等重要AI國際廠商,針對平臺的分析及辨別機制、及將語言模型(LLM)提送AI評測中心等議題進行討論。與會廠商一致認為,AI應具備「可信任、準確性和安全性」等重要特性。
數位產業署副署長林俊秀說明,AI國際廠商在開發語言模型過程中,團隊都會持續進行測試和調整,目前國際廠商對於自身開發的語言模型,提供給台灣AI產品與系統評測中心進行評測,皆持正向態度。
數發部表示,在處理生成式AI內容的分析和辨識方面,國際領先企業於會議中提出多項相關措施,這些措施包括運用SynthID技術。這是一種用於AI生成圖片的偵測技術,可用於建立浮水印或檢測AI生成圖片中的浮水印,以便更容易識別AI生成圖片。此外,他們還提出了溯源標註及簽章、用戶檢舉機制,以及提醒用戶注意AI生成內容等方法。林俊秀指出,目前Google已對AI生成的廣告以及Youtube內容已進行標註,OpenAI也導入C2PA的溯源機制。
數發部說明,未來將持續敦促網路平臺業者推動資訊辨別與分析機制,並提倡使用者在網路平台上發布內容時,若包含深偽技術或AI生成的個人影像,應明確說明或標註,以確保資訊的完整性。
數發部也呼籲,面對AI技術帶來的挑戰,需要政府、平臺和民眾共同努力,建立透明的監管機制,加強對AI生成內容的辨識能力,以確保資訊的真實性與完整性。(復興電台新聞組採編)
發佈時間:2024.05.08
近期數位發展部積極推動運用AI技術「促進資訊完整性」,除了在年初舉辦審議式民主活動外,也邀請國際重要廠商,包括Meta、Google、Microsoft和OpenAI進行交流對話,確認AI應具備「可信任、準確性和安全性」等特性,以滿足社會對各種AI應用服務的需求。
數發部8日舉記者會說明,4月中旬邀集Meta、Google、Microsoft和OpenAI等重要AI國際廠商,針對平臺的分析及辨別機制、及將語言模型(LLM)提送AI評測中心等議題進行討論。與會廠商一致認為,AI應具備「可信任、準確性和安全性」等重要特性。
數位產業署副署長林俊秀說明,AI國際廠商在開發語言模型過程中,團隊都會持續進行測試和調整,目前國際廠商對於自身開發的語言模型,提供給台灣AI產品與系統評測中心進行評測,皆持正向態度。
數發部表示,在處理生成式AI內容的分析和辨識方面,國際領先企業於會議中提出多項相關措施,這些措施包括運用SynthID技術。這是一種用於AI生成圖片的偵測技術,可用於建立浮水印或檢測AI生成圖片中的浮水印,以便更容易識別AI生成圖片。此外,他們還提出了溯源標註及簽章、用戶檢舉機制,以及提醒用戶注意AI生成內容等方法。林俊秀指出,目前Google已對AI生成的廣告以及Youtube內容已進行標註,OpenAI也導入C2PA的溯源機制。
數發部說明,未來將持續敦促網路平臺業者推動資訊辨別與分析機制,並提倡使用者在網路平台上發布內容時,若包含深偽技術或AI生成的個人影像,應明確說明或標註,以確保資訊的完整性。
數發部也呼籲,面對AI技術帶來的挑戰,需要政府、平臺和民眾共同努力,建立透明的監管機制,加強對AI生成內容的辨識能力,以確保資訊的真實性與完整性。(復興電台新聞組採編)
觀看次數: 118