“AI換臉”以假亂真，規范人工智能的步子要快些

在某些人工智能技術應用門檻不斷降低而觸達面越來越廣的當下，積極著手問題的研判與應對，研究出臺有效舉措劃清新技術使用的邊界、相關權責等，都應當快馬加鞭，少一些空白、多一些規范。

　　近來，著名小品演員、相聲演員“飆英文”的視頻讓公眾大呼震驚。據11月5日央視報道，視頻網站上通過人工智能換臉，國產影視劇里的主角用英語說起了臺詞，人們通過小程序也可以將自己變成電影里的人物。該新技術給人們帶來歡樂的同時，也帶來了一種名為“AI換臉詐騙”的新騙術，不法分子通過虛擬攝像頭，用“AI換臉”功能跟受害者聊天，相似度可達80%，而一臺電腦合成一段10秒的換臉視頻只需要一兩分鐘。為此，國家金融監督管理總局北京監管局近日發布謹防“AI換臉”等新型欺詐手段的風險提示。

　　“AI換臉”來了，這讓不少人感受到人工智能技術正在改變我們的生活。除了用于開發娛樂性小軟件外，人工智能技術正在被廣泛應用于醫療、新聞傳播、生物多樣性監測等領域，其發展前景值得期待。

　　人工智能技術迅速發展，技術升級迭代的速度超出很多人的想象。在文字寫作上，今天，相關技術可以實現用簡短素材短時間生成復雜內容，其專業性、便捷性很強。以前的人工智能合成語音相對粗糙生硬，如今合成的語音不僅有著與真人一樣的語氣語調嗓音，甚至還有了情緒。

　　此外，某些人工智能技術的可及度提升，公眾的應用門檻降低。用戶使用某些人工智能軟件并不需要具備專業知識和技能，甚至有些產品已實現“傻瓜式操作”。比如，很多視頻剪輯軟件或短視頻平臺上就有生成方言語音的功能，用戶錄入文字或語音素材就可以即刻生成活靈活現的方言版字幕，豐富自己的視頻作品風格。

　　以“AI換臉”為例，其行業門檻并沒人們通常想象的那么高，通過算法開源，普通工程師可以“分分鐘”制作出一個變臉軟件，這就導致控制源頭存在天然的困難。幾年前，一名外國工程師基于一個算法開源項目開發了某款變臉軟件，一時間，很多人在參加線上視頻會議時都紛紛化身“阿凡達”“馬斯克”，令人啼笑皆非。

　　問題隨之而來，一是人工智能終端產品已經鋪天蓋地，但鑒別技術和設備卻未能普及，二是相關規制約束沒能及時跟上技術發展的腳步。這些在很大程度上讓某些人工智能技術有了被濫用的空間，公眾的擔心由此而起。

　　應該看到，相關監管一直在持續發力。近幾年，國家網信辦等部門先后出臺了《互聯網信息服務深度合成管理規定》《生成式人工智能服務管理暫行辦法》等政策文件，陸續開展了“互聯網深度合成算法備案”“大語言模型算法備案”等有關工作，有效促進了生成式人工智能的健康發展和規范應用，對利用AI換臉、變聲等手段實施違法犯罪等行為形成有力震懾。同時，一些頭部互聯網平臺也在探索算法檢測、軟件識別等辦法來識別人工智能生成產品并向公眾標注說明，減少信息差，提升公眾防范意識。

　　一項新技術的落地應用往往會經歷一段“成長的煩惱”，這是新事物發展過程中的共性問題。比如近年來的共享單車押金難退、傷亡責任糾紛，直播帶貨虛假宣傳、售后難覓等等。有關方面解決問題的共同思路就是加快規制步伐，不斷補上法律法規和行業公約等“拼圖”。同樣，在某些人工智能技術應用門檻不斷降低而觸達面越來越廣的當下，積極著手問題的研判與應對，研究出臺有效舉措劃清新技術使用的邊界、相關權責等，都應當快馬加鞭，少一些空白、多一些規范。

　　某種程度上，人工智能技術的使用有多方便，就可能有多少風險和變數。防范包括“AI換臉”在內的人工智能技術被濫用，要加強對人臉、聲紋、指紋、步態等生物信息數據的安全防護。這需要每個人提高防范意識，更需要監管部門在完善規制的進程上加快腳步。(本報評論員 吳迪)