050期一波中特|波叔一波中特2017年正版

深度偽造、數據污染與網絡生態治理

摘要:作為人工智能的新應用,深度偽造絕非一無是處,恰恰相反,它在教育、藝術、娛樂產業中潛力無限,正因如此,政府不能一禁了之,而應采取彈性和回應性的監管策略。



深度偽造技術的誕生,不但引發了用戶對隱私問題的恐慌,也帶來了政治風險和國家安全問題。然而,深度偽造一定是惡的技術嗎?法律的嚴厲禁止能否杜絕深度偽造的泛濫?或許,我們可以將網絡看作另一個自然環境,將深度偽造當作造成污染的石油,從《環境保護法》中獲得一些借鑒。

?文 | 許可對外經濟貿易大學數字經濟與法律創新研究中心執行主任

1997年,吳宇森導演拍攝的電影《換臉》描述了美國FBA探員和恐怖殺手人臉互換所引發的人生驚變。二十年后,盡管真實空間中的換臉依然不易,但在網絡空間中,我們早可化身千萬,可以成為《換臉》中的約翰·特拉沃爾塔,也能成為尼古拉斯·凱奇。而讓這一“夢想”成真的就是AI換臉App“ZAO”。

只要向ZAO上傳一張正臉照,每個人都能“逢臉造戲”,將自己替換為影視作品中的人物,生成逼真的視頻。然而,ZAO在娛樂自己、歡樂大家的同時,也面臨著用戶隱私協議不規范、數據安全堪憂的質疑。在遭到工信部問詢約談之后,ZAO立即修改了用戶隱私協議,并承諾全面加強內容管理、完善各項管理機制,確保用戶個人信息安全和數據安全。

雖然ZAO的風波暫告段落,但制度上的反思遠未終結。我們所要追問的是:ZAO以及其背后的“深度偽造”(Deepfakes)技術真正的風險究竟何在?什么才是治標又治本的法律良方?

?從個體風險到公共風險

人們對ZAO的焦慮,主要源于其用戶協議和隱私政策中設置不合理霸王條款、未清晰說明個人信息處理規則、存在違規收集用戶個人敏感信息等諸多問題。

在洶涌的輿論面前,ZAO修改了用戶協議,聲明:真人驗證環節僅為驗證本人上傳,“不會存儲個人面部生物識別特征信息”,并將“嚴格遵守法律法規的要求,全面保護個人信息和數據安全”。ZAO的回應看似完全平息了監管機構和公眾的疑慮,事實上卻掩蓋了深淺兩大問題。

就淺層次問題而言,基于個人信息收集必要性原則,在多種網絡可信身份驗證技術均相對成熟的前提下,真人的動態驗證不僅是不必要的,也令人起疑:ZAO能否信守不收集人臉敏感信息的承諾?

而更致命的是深層次問題,那就是ZAO完全回避了它對公共風險所承擔的責任。

ZAO絕非第一個主打換臉功能的APP。早在2017年,一位名叫Deepfakes的用戶在社交平臺上傳了一段由《神奇女俠》主演蓋爾·加朵“主演”的成人短片,并公布了相關代碼,潘多拉魔盒由此打開。2018年1月,FakeApp的桌面應用程序上線,這是一個借助“深度學習算法”制作寫實主義換臉視頻的桌面工具。

隨著類似應用的相繼出現,人們開始用Deepfakes(深度偽造)描述這一類技術、軟件和行為。作為“deep learning”(深度學習)和“fake”(偽造)的合成詞,它意指利用人工智能技術實現圖像、視頻、音頻的生成或修改,達到信息內容以假亂真的目的。如此來說,ZAO的風險在本質上就是深度偽造風險的映射。

與對ZAO的批評集中在個人信息的保護不同,人們對“深度偽造”的擔憂主要是社會層面的。其首當其沖的就是政治風險和國家安全。

在美國,深度偽造多次被用來歪曲知名政治人物的行為和言論。例如,2019年1月,福克斯電視臺播出了特朗普在白宮辦公室演講中的偽造視頻,嘲笑他的外表和膚色。無獨有偶,2019年5月,特朗普在twitter上分享了美國眾議院議長南希·佩洛西的偽造視頻,諷刺她反應遲緩。

2016年美國總統大選佛羅里達州候選人、共和黨參議員盧比奧,就曾將Deepfakes與核武器相提并論:“過去,如果你想威脅美國,那你需要10艘航母、核武器,還有洲際導彈。現在,你只需要登錄我們的互聯網系統、銀行系統、電網、基礎設施網絡,甚至,你只需要具備弄出一段可以以假亂真的虛假視頻來搞亂我們的選舉就行了。這就足以讓我們的國家陷入巨大的內亂,深深削弱我們。”

對他人名譽權、肖像權,甚至商譽的侵害是深度偽造的第二罪狀。將演藝明星頭像嫁接到色情演員的身體上本就是那個名為Deepfakes用戶的“初心”。2019年6月,DeepNude應用發布,只要你提供一張他人的照片,它就可以根據這張照片使用深度偽造技術,還原此人的裸體形象。很快,這一APP就陷入巨大爭議而下線,開發者對此表示:“這個世界還沒有準備好面對DeepNude。”

我們還可以設想,利用“深度偽造”技術能夠創造一家上市公司CEO宣稱公司即將破產的虛假視頻,公司股價必將應聲而落,其損失難以估量。

最后,深度偽造已經成為“社交詐騙”的一部分,人們會誤以為收到了來自親友的消息和指示,遭受精神和金錢的雙重損失。

法律的回應及其不足

面對深度偽造的挑戰,國家并未束手旁觀。迄今,美國已公布了《禁止惡意深度偽造法案》《2019年深度偽造責任法案》《2019年深度偽造報告法案》《德克薩斯州關于制作欺騙性視頻意圖影響選舉結果的刑事犯罪法案》等法案。國家網信辦《數據安全管理辦法(征求意見稿)》第24條亦規定:“網絡運營者利用大數據、人工智能等技術自動合成新聞、博文、帖子、評論等信息,應以明顯方式標明‘合成’字樣;不得以謀取利益或損害他人利益為目的自動合成信息。”

縱觀既有法律,深度偽造的應對措施限于如下三者。

一是強化對個人信息的保護,要求收集者遵循透明性和必要性的要求,讓用戶清楚了解后果并明確同意,賦予其更正或刪除信息的權利;同時,數據控制者承擔高標準的數據安全義務。

二是強化對深度偽造的披露,通過水印、標注、數字簽名等技術表明其“虛構”特性,使公眾產生心理上的警覺,減少被誤導的可能性。

三是強化對不法使用的限制,不得制作、傳播可能侵犯他人權益或構成刑事犯罪的深度偽造信息。

這些措施固然有用,但正如上文所指出的,它們遠遠不夠。首先,深度偽造的受害者往往并不是提供信息的個人,個人信息的保護不過是揚湯止沸。其次,作為一個開源的技術,深度偽造的門檻低、迭代快,強制披露的規制難以落到實處。最后,盡管防范深度偽造具體有害行為是民眾和政府的核心訴求,但其忽視了深度偽造的危害是彌散的和不確定的,相關損害無影無形又無遠弗屆。

這里,我們不妨借用芝加哥大學法學院教授歐姆瑞·本·沙哈爾的說法,將深度偽造稱為一種嚴重的“數據污染”(data pollution)。

“解鈴還須系鈴人,新病還須新藥醫”。與傳統關涉個體的數據風險不同,深度偽造凸顯了數據社會風險的新問題,我們必須改弦易轍,引入其他治理機制,以彌補既有私法救濟和公法監管的缺陷。

?借鑒“環境保護法”治理網絡生態

好比工廠排放的廢氣和廢水,經過深度偽造的信息所影響的不僅僅是與排污者打交道的個人,更是整個網絡空間以及更廣泛的社交體系中的信任度。既有對深度偽造的法律規制,多聚焦于個體,在很大程度上忽視了個人自主提供數據對他人的不良影響,以及對公共產品和公共福利的戕害。而這要求我們站在網絡空間的宏觀視角重新思考解決之道。

事實上,這種關切網絡生態而非數據本身的態度,業已隱含在國家網信辦《網絡生態治理規定(征求意見稿)》之中。實踐中,從阿里巴巴追究售假、刷單炒信行為,到騰訊重點發力微信小程序生態的關鍵節點,起訴利用小程序從事違法行為的平臺用戶,再到百度對廣告質量的管控,網絡生態的維護已成為網絡平臺運營者的核心職責。

數據是21世紀的石油,但和20世紀的石油一樣,它創造海量價值,可也在對天朗氣清的網絡生態造成威脅。為此,我們不妨移植自然環境保護法,遵循其原理和原則,形成針對深度偽造的“網絡環境保護法”。與自然環境保護法類似,生產限制、碳排放稅和侵權責任原則亦可適用于深度偽造的治理之中。

作為一種具有潛在危害的數據處理活動,深度偽造技術、信息的銷售者和服務提供者應取得特別經營牌照,以期通過一系列細化的資質管控,落實數據安全、信息披露等強制性標準,并達到限制深度偽造使用、減少深度偽造信息數量的目的。

其次,與一般數據相比,深度偽造信息的生產者(包括用戶和企業)對網絡生態產生了負外部性,這些社會成本并沒有納入用戶和企業的效用函數之中。故此,立法者可以效仿“碳排放稅”,對提供個人信息的用戶以及相關企業同時苛加“數據稅”(data tax)。由于深度偽造個別信息造成的社會成本非常微小,用戶承擔的稅負主要是象征性的,其旨在提醒每個人:小心從事深度偽造!

最后,如同危險品的泄露,一旦出現深度偽造相當程度或數量的違法使用,則責任人不僅要及時報告監管機構并告知用戶,而且,在其故意或重大過失的情形下,還將承擔懲罰性賠償責任。為此,企業必須購買強制性的數據安全保險,防范其因破產而卸責。

作為人工智能的新應用,深度偽造絕非一無是處,恰恰相反,它在教育、藝術、娛樂產業中潛力無限,正因如此,政府不能一禁了之,而應采取彈性和回應性的監管策略。放寬視野看,隨著世界的數字化轉型,我們正經歷著從數據個體風險向數據公共風險的轉變歷程,深度偽造不過是其中一例,而它所改變的,可能比我們所能想象的更多。

文 | 騰云

本文為 品途商業評論(http://www.okoewu.tw)轉載作品,作者: 許可 ,責編:邢通。轉載()請聯系原作者。本文僅代表作者觀點,不代表品途商業評論觀點。

發表評論

您的操作太快嘍,請輸入驗證碼

您輸入的驗證碼不正確。

看不清? 點擊更換
確定
050期一波中特 AG机动乐园开奖软件 彩票走势网 急速赛车 北京pk10与彩票类骗局揭秘 安徽快三遗漏号码查询 给网上的公众号投稿赚钱吗 新快3江苏 北京pk10直播开奖 彩名堂计划app4.0 奕乐贵州麻将怎么开挂 大乐透直播开奖在线播 股票知识 四方河南麻将作弊器 利赢棋牌游戏送10元 时时彩单双大小 北京十一选五