最近幾個(gè)月，人工智能生成內(nèi)容（AIGC）的關(guān)注度持續(xù)升溫，全球競逐AI賽道，人工智能的發(fā)展速度已遠(yuǎn)超我們的想象。以ChatGPT、文心一言等為代表的大模型以“聊天式”交互界面不斷降低AI的使用門檻，AI產(chǎn)業(yè)迎來高光時(shí)刻，但利用AI進(jìn)行詐騙的案例時(shí)有發(fā)生，人工智能技術(shù)突破和進(jìn)步結(jié)出的AI碩果不應(yīng)成為滋養(yǎng)“深度偽造（Deepfake）”的沃土。
AI發(fā)展狂飆
但給它的自由不能過了火
(相關(guān)資料圖)
今年2月，一段由AI生成的美國主持人喬·羅根（Joe Rogan）推銷保健品的廣告在某社交平臺(tái)上瘋傳。這段由Deepfake制作的內(nèi)容使得公眾難以分辨名人形象的真?zhèn)?，最終被平臺(tái)刪除?！吧疃葌卧欤―eepfake）”一詞由深度學(xué)習(xí)（Deep Learning）和偽造（fake）組合而來，Deepfake是一種人工智能技術(shù)，能夠?qū)⑷说拿娌勘砬楹吐曇襞c另一個(gè)人的圖像和聲音結(jié)合起來，從而創(chuàng)造出虛假的視頻或音頻。這種技術(shù)可用于制作虛假新聞、電信網(wǎng)絡(luò)詐騙、制作色情作品等，具有極大的潛在危險(xiǎn)性。
未經(jīng)授權(quán)的深度偽造視頻開辟了一個(gè)新的法律灰色地帶，名人個(gè)人形象的品牌價(jià)值管理受到影響，多維度精心打造的商業(yè)形象可能不復(fù)存在。那么對于普通人，深度偽造視頻會(huì)帶來怎樣的危害？近日，一起由“AI換臉”實(shí)施的詐騙引發(fā)熱議，受害人10分鐘被騙走430萬元，視頻通話的“好友”竟不是朋友本人，“確認(rèn)過眼神”還是一腳踏入AI騙局。
伴隨AI技術(shù)的革新和突破，生成虛假視頻的技術(shù)難度和成本大幅降低，為深度偽造野蠻生長提供了養(yǎng)料，相關(guān)法律法規(guī)也要及時(shí)更新，整治AI換臉、AI偷臉，積極引導(dǎo)負(fù)責(zé)任的AI研發(fā)與應(yīng)用活動(dòng)，用“法”打敗“魔法”。去年12月，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》發(fā)布，對人臉生成、替換、操控，合成人聲、仿聲等都有明確約束。顯然，隨著制度設(shè)計(jì)更精準(zhǔn)、相關(guān)立法更健全，深度偽造的生長空間將越來越逼仄。
防范AI濫用
確保技術(shù)健康有序發(fā)展
使用ChatGPT導(dǎo)致芯片機(jī)密數(shù)據(jù)泄露，“AI孫燕姿”靠翻唱成為音樂圈新頂流，推特瘋傳AI生成的“五角大樓爆炸圖”引美股下跌……隨著人工智能技術(shù)的蓬勃發(fā)展，AI已經(jīng)融入日常娛樂、企業(yè)生產(chǎn)的方方面面，與此同時(shí)，數(shù)據(jù)泄露、作品侵權(quán)、虛假新聞傳播等濫用AI的事件也層出不窮，為人工智能技術(shù)健康有序發(fā)展帶來挑戰(zhàn)。
ChatGPT雖然是工作效率提升“神器”，寫方案、調(diào)代碼等游刃有余，但是，把數(shù)據(jù)尤其是涉密數(shù)據(jù)“投喂”給AI大模型，也意味著，這些數(shù)據(jù)可能成為大模型的訓(xùn)練數(shù)據(jù)，進(jìn)而泄露給未經(jīng)授權(quán)的第三方，對國家安全、企業(yè)競爭力等產(chǎn)生嚴(yán)重影響。為確保涉密數(shù)據(jù)的安全性，通常不建議將其輸入ChatGPT中，應(yīng)使用更加安全的方法來存儲(chǔ)、處理涉密信息，例如使用專用的安全存儲(chǔ)設(shè)備或系統(tǒng)、采用加密技術(shù)對敏感信息進(jìn)行加密和保護(hù)等。
此外，借助AI能夠制作出非常逼真的虛假視頻或圖像，這些虛假作品很難被人眼識(shí)別出來，容易誤導(dǎo)公眾。為規(guī)范人工智能發(fā)展，去年12月，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》正式發(fā)布，明確了合成數(shù)據(jù)和技術(shù)管理規(guī)范。其中提到：深度合成服務(wù)提供者對使用其服務(wù)生成或編輯的信息內(nèi)容，應(yīng)當(dāng)添加不影響使用的標(biāo)識(shí)。提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等生成或者顯著改變信息內(nèi)容功能的服務(wù)的，應(yīng)當(dāng)進(jìn)行顯著標(biāo)識(shí)，避免公眾混淆或者誤認(rèn)。
近期，也有平臺(tái)和企業(yè)發(fā)布了“關(guān)于人工智能生成內(nèi)容的平臺(tái)規(guī)范暨行業(yè)倡議”，明確禁止利用生成式人工智能技術(shù)創(chuàng)作、發(fā)布侵權(quán)內(nèi)容，包括但不限于肖像權(quán)、知識(shí)產(chǎn)權(quán)等，一經(jīng)發(fā)現(xiàn)，平臺(tái)將嚴(yán)格處罰。
AI創(chuàng)新在前
但要嚴(yán)守科技倫理底線
2019年，英國一家能源公司的CEO接到其母公司總裁的電話，要求將22萬歐元轉(zhuǎn)入匈牙利銀行賬戶，他照做了，但實(shí)際這個(gè)“總裁”的聲音是人工合成的。Deepfake不僅能夠用于偽造他人的人臉和聲音信息，“復(fù)活”已故人士也不在話下。2020年10月，美國網(wǎng)紅卡戴珊發(fā)布了一段由Deepfake創(chuàng)建的其已故父親的視頻；2022年，貓王埃爾維斯·普雷斯利在美國達(dá)人秀第17季中被Deepfake“復(fù)活”……
為應(yīng)對深度偽造帶來的潛在問題，各國政府紛紛出臺(tái)相關(guān)法規(guī)和措施。2018年12月，美國參議院提出了《2018年惡意偽造禁令法案》，對制作深度偽造內(nèi)容引發(fā)犯罪和侵權(quán)行為的個(gè)人，以及明知內(nèi)容為深度偽造還繼續(xù)分發(fā)的社交媒體平臺(tái)，進(jìn)行罰款和處以長達(dá)兩年的監(jiān)禁。2019年6月，美國眾議院提出《深度偽造責(zé)任法案》（Deepfakes Accountability Act），要求任何創(chuàng)建深度偽造視頻媒體文件的人，必須用“不可刪除的數(shù)字水印以及文本描述”來說明該媒體文件是篡改或生成的，否則將屬于犯罪行為。
歐盟主要通過個(gè)人信息保護(hù)和虛假信息治理等法律法規(guī)來從法律層面限制人工智能造假技術(shù)的應(yīng)用。2022年6月，歐洲委員會(huì)公布了加強(qiáng)版《反虛假信息行為準(zhǔn)則》，要求谷歌、Meta等在歐盟擁有巨量用戶的大型科技公司，采取措施來打擊其平臺(tái)上的深度偽造和虛假賬戶，否則將面臨高達(dá)其全球營業(yè)額6％的罰款。
在應(yīng)對深度偽造帶來的監(jiān)管挑戰(zhàn)上，中國有關(guān)部門行動(dòng)迅速，制定的規(guī)章更為精細(xì)全面，去年12月發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》覆蓋了深度偽造的文本、圖像、音頻、視頻和虛擬場景等，進(jìn)一步明確了合成數(shù)據(jù)和技術(shù)的相關(guān)管理規(guī)范。值得注意的是，其中提到的文本內(nèi)容包括由AI大語言模型生成的文本，AI生成虛假新聞等情況的應(yīng)對和處理將有規(guī)可依。
此外，近日成立的工業(yè)和信息化部科技倫理委員會(huì)、工業(yè)和信息化領(lǐng)域科技倫理專家委員會(huì)，將為進(jìn)一步健全產(chǎn)業(yè)科技創(chuàng)新體系、完善工業(yè)和信息化領(lǐng)域科技倫理治理體系等提供重要基礎(chǔ)。AI技術(shù)和應(yīng)用要?jiǎng)?chuàng)新要發(fā)展，但不可跨越倫理紅線。
關(guān)鍵詞：
