熱點觀察
AI換臉技術又來“惹事”了!
8月10日,開源社區網站GitHub上一個名為Deep-Live-Cam的項目,向公眾展示了其在直播中優秀的AI換臉能力。至此,AI換臉技術終于覆蓋了圖片、視頻、直播等全應用場景。
這一次,人們被其展現出的強大能力所震撼的同時,有了更多的擔心。
從技術層面來看,在動態化的直播環境中,AI也實現了高度逼真的面部替換效果,突破了傳統圖像處理的局限。
這意味著,今后我們所看到的直播或視頻連線的主體,已經能在多變的場景中快速且無痕地變換形象了。
如果把AI換臉的技術升級比作打靶,圖片場景中的AI換臉,是在固定靶位打固定靶子;視頻場景中的AI換臉,是在固定靶位打移動靶子;直播場景中的AI換臉,則是在高速移動的靶位上打高速移動中的靶子。
此次AI換臉技術升級的步伐,確實邁得有點大。人們的擔心,主要是因為AI換臉技術自誕生之日起就擁有的“雙刃”特性。
AI換臉極大地豐富了內容創作的可能性,為影視制作、娛樂創意等領域帶來了革命性的變化,也滿足了人們對視覺感官越來越多趣味性和互動性的要求。但與此同時,我們也需要承受其帶來的潛在危害,包括且不僅限于不法分子可以利用換臉技術偽造知名人物的形象進行虛假宣傳或詐騙,未經授權的換臉行為對個人的形象和聲譽造成負面影響,以及AI換臉技術可能引發的道德和倫理等問題。
不可否認,AI換臉應用于直播確實值得警惕,但我們也不能忽視其應用場景和潛在危害并沒有隨之升級的事實。
一直以來,為解決AI技術在發展及應用落地過程中的潛在危害,各國都相繼出臺了相關法律法規加以監管。在我國,《中華人民共和國民法典》規定,未經許可使用他人形象進行換臉并用于盈利等惡意目的,屬于明確的侵權行為;《生成式人工智能服務管理暫行辦法》也規定技術提供者應使用合法來源的數據和基礎模型,涉及個人信息時須依法獲取同意。
當然,法律法規是為了給AI換臉等相關服務的監管提供依據。個人的預防措施更重要,我們在日常生活中應提高對AI換臉的認知和防范意識,不要輕易相信網絡上未經證實的音視頻內容,同時保護好自己的肖像、聲紋、指紋、虹膜等個人生物信息,謹防被盜用……做好這些,其實我們就能更自信地擁抱科技給生活帶來的改變。
上一篇:周光召:我只是十萬分之一
下一篇:返回列表
【免責聲明】本文轉載自網絡,與科技網無關。科技網站對文中陳述、觀點判斷保持中立,不對所包含內容的準確性、可靠性或完整性提供任何明示或暗示的保證。請讀者僅作參考,并請自行承擔全部責任。