“真是一派胡言！重要的是，你要把選票留到11月的選舉中。本周的投票只會(huì)讓共和黨人再次選舉唐納德·特朗普……”近期，在美國(guó)新罕布什爾州舉行初選前，很多美國(guó)人接到了“美國(guó)總統(tǒng)拜登”的電話留言，而這通電話被認(rèn)為是人工智能(AI)生成的“虛假電話”。
隨著生成式人工智能(GAI)時(shí)代的到來，“眼見為實(shí)”“有圖有真相”逐漸被顛覆。2024年開年，美國(guó)OpenAI公司發(fā)布了首個(gè)文生視頻模型“Sora”，在振奮科技圈的同時(shí)，也讓人們對(duì)AI生成的假視頻和假圖片泛濫的擔(dān)憂與日俱增。大量“深度偽造”視頻的出現(xiàn)，可能對(duì)選舉等政治和安全領(lǐng)域產(chǎn)生負(fù)面影響，世界各國(guó)仍需合作來應(yīng)對(duì)這一挑戰(zhàn)。
圖片來源：OpenAI網(wǎng)站截圖
“AI換臉”真假難辨
多國(guó)政要“躺槍”
近年來，AI技術(shù)發(fā)展迅猛，文生圖、文生視頻的工具如Pika、Sora等層出不窮。而“AI換臉”也通過深度合成算法處理，為“二度創(chuàng)作”提供了支持。深度偽造技術(shù)似乎愈發(fā)出格，甚至多國(guó)政要也紛紛“躺槍”……
2023年3月18日，美國(guó)前總統(tǒng)特朗普曾在社交媒體上發(fā)文稱，他預(yù)計(jì)自己將于2023年3月21日被捕。此消息一出，“特朗普被捕”的“照片”在一些社交平臺(tái)迅速流傳開來。這些“照片”包括“特朗普被警察圍捕”、“特朗普穿囚服”，甚至還有“特朗普越獄”，精彩程度堪比好萊塢大片。
日本首相岸田文雄也曾因“AI換臉”技術(shù)“躺槍”。2023年11月，日本一名25歲男子借助AI技術(shù)，制作了“岸田文雄開發(fā)布會(huì)”的假視頻。
視頻中的“岸田”身著西裝，神態(tài)緊張，語氣鄭重。該視頻還帶有日本電視臺(tái)的臺(tái)標(biāo)和“突發(fā)新聞”字樣。這條假視頻上線僅一天，播放量就超過230萬次。
“莫迪跳舞”的假視頻截圖 圖片來源：社交平臺(tái)X截圖
印度總理莫迪也曾陷“深度偽造”風(fēng)波。2023年11月，一段“莫迪跳舞”的視頻在網(wǎng)上瘋傳。視頻中，“莫迪”和其他舞者身穿傳統(tǒng)服飾，圍成一個(gè)圈，歡快地跳著印度古吉拉特邦的一種節(jié)日舞蹈——加爾巴舞。
莫迪親自辟謠，稱視頻是AI合成的。他警告稱，“人們會(huì)誤以為自己看見的是真實(shí)的，這會(huì)引發(fā)巨大危機(jī)……在人工智能時(shí)代，負(fù)責(zé)任地使用技術(shù)很重要。”
新加坡總理李顯龍2023年底也在社交媒體發(fā)文稱，近日出現(xiàn)了一些利用他的音頻制作的深度偽造視頻，宣傳加密貨幣騙局。流傳的偽造視頻中，李顯龍?zhí)岬将@新加坡政府批準(zhǔn)的投資機(jī)會(huì)，并推廣了一個(gè)所謂由特斯拉首席執(zhí)行官馬斯克設(shè)計(jì)的“革命性投資平臺(tái)”。李顯龍呼吁公眾提高警惕，切勿上當(dāng)受騙。
政治“深偽”時(shí)刻到來？
AI安全成焦點(diǎn)
除了滿足網(wǎng)絡(luò)受眾的獵奇心理和社交需求，AI技術(shù)近來逐漸在選舉中嶄露頭角，它與政治的融合既帶來進(jìn)步，也帶來“陷阱”。
瓦拉斯譴責(zé)網(wǎng)上發(fā)布的有關(guān)他的虛假視頻。圖片來源：美國(guó)哥倫比亞廣播公司(CBS)報(bào)道截圖
2023年2月，美國(guó)芝加哥市長(zhǎng)選舉前夕，一段“溫和派民主黨候選人保羅·瓦拉斯猛烈抨擊芝加哥”的視頻在網(wǎng)絡(luò)迅速流傳。視頻中，瓦拉斯稱，由于缺乏法律和秩序，芝加哥已經(jīng)變成一個(gè)“無法無天”的真空地帶，而且“警察隨隨便便就可以射殺嫌疑人，人們卻對(duì)這些情況視而不見”。
不過，這段視頻被證明是AI合成。雖然社交平臺(tái)最后刪除了該視頻，但其產(chǎn)生的負(fù)面影響仍無法消除，瓦拉斯也在市長(zhǎng)選舉中不敵對(duì)手布蘭登•約翰遜。
《今日美國(guó)報(bào)》援引布魯金斯學(xué)會(huì)技術(shù)創(chuàng)新中心高級(jí)研究員達(dá)雷爾·韋斯特的話稱，“2024年的美國(guó)大選，將會(huì)出現(xiàn)人工智能(AI)生成的虛假信息‘海嘯’。我們已看到這種情況，且情況將會(huì)變得更糟。”
美國(guó)政府監(jiān)管組織“捍衛(wèi)公眾利益組織”負(fù)責(zé)人羅伯特•韋斯曼也稱，政治“深度偽造”時(shí)刻已經(jīng)到來，政策制定者必須盡快采取保護(hù)措施，否則將面臨“選舉混亂”。
關(guān)于AI可能被用來誤導(dǎo)選民和惡意歪曲選舉的擔(dān)憂，在2024年這個(gè)“全球超級(jí)大選年”急劇上升。
2月16日，OpenAI、亞馬遜、谷歌、微軟、TikTok、臉書的母公司“元”、社交平臺(tái)X(原推特)等全球多家領(lǐng)先的科技企業(yè)，在第60屆慕尼黑安全會(huì)議(慕安會(huì))上簽署協(xié)議，承諾在2024年這個(gè)多國(guó)舉行重要選舉的年份，通過技術(shù)部署，減少利用人工智能生成和分發(fā)欺騙性內(nèi)容干擾選舉的風(fēng)險(xiǎn)。
“政府需要在人工智能領(lǐng)域扮演重要角色，確保設(shè)置安全屏障和護(hù)欄，讓產(chǎn)業(yè)內(nèi)人士知道，哪些能做，哪些不能做。”美國(guó)消費(fèi)者技術(shù)協(xié)會(huì)首席執(zhí)行官夏皮羅如是說道。(陳彩霞)
來源：中國(guó)新聞網(wǎng)
