本網綜合 Olivia Le Poidevin 報導 聯合國國際電信聯盟（ITU）發佈的一份報告中呼籲，企業必須使用先進工具檢測並遏制虛假資訊和深度偽造內容，以幫助應對日益加劇的選舉干預和金融欺詐風險。

ITU在日內瓦舉行的“人工智慧向善峰會”上發佈的報告指出，人工智慧生成的圖像、視頻以及能夠逼真模仿真實人物的音頻等深度偽造內容正帶來日益嚴峻的風險。

ITU呼籲制定嚴格標準以應對篡改的多媒體內容，並建議社交媒體平臺等內容分發商在分享前使用數字驗證工具對圖像和視頻進行認證。

“人們對社交媒體的信任度大幅下降，因為他們無法分辨真假，”ITU標準化局研究組部門負責人比萊爾·賈穆西（Bilel Jamoussi）指出。他稱，由於生成式人工智慧具備製造逼真多媒體內容的能力，打擊深度偽造技術已成為首要挑戰。

Adobe公司（自2019年起致力於應對深度偽造技術的數字編輯軟體領導者）的萊昂納德·羅森索爾強調，建立數字內容的來源追溯機制對幫助用戶評估其可信度至關重要。

“我們需要更多內容消費平臺展示此類資訊……當你流覽資訊流時，你希望知道：‘這張圖片、這段視頻是否可信？’”羅森索爾說道。

數字治理研究公司Digital Medusa的創始人法爾紮內·巴迪埃博士強調，鑒於目前沒有單一的國際監管機構專注於檢測操縱內容，因此需要採取全球性的解決方法。

“如果我們有零散的標準和解決方案，那麼有害的深度偽造內容可能會更有效，”她對路透社表示。

國際電信聯盟（ITU）目前正在制定視頻浮水印標準——視頻占互聯網流量的80%——以嵌入來源數據，如創作者身份和時間戳。

瑞士Umanitek公司創始人托馬斯·萊瓦克呼籲私營部門主動實施安全措施並教育用戶。

“人工智慧只會變得更強大、更快或更智能……我們需要提升人們的技能，確保他們不會成為系統的受害者，”他說。