新聞中（zhōng）心

　　近年來，人工智能(AI)技術的更（gèng）迭（dié）讓人目不暇接。語言模型領域取（qǔ）得重大突破的2023年剛（gāng）剛過去，2024年，人（rén）們又（yòu）迎來了視（shì）頻和物理（lǐ）世界虛擬生成方麵的突破。然而，在人工智能技術被廣泛應用於科創、文化、教育、醫藥、交通等各行各業，甚至進入日常（cháng）生活的（de）當下，其被濫用的風險已開始引（yǐn）發擔憂。

　　“深（shēn）度偽造”真假難辨

　　使用（yòng）人工智能算法生成的高度逼真的虛假圖像、音頻（pín）和視頻等（děng），被稱為“深度（dù）偽造”內容。自這一概念於2017年（nián）首（shǒu）次（cì）出現以來，借助該技術（shù）詐騙或操縱輿論的事件在全球愈加頻發。以美國為（wéi）例，過去一年裏人工智能詐騙事件（jiàn）同（tóng）比增幅超過了50%。

　　然而時至（zhì）今日，人們仍未能有效解決該問（wèn）題。這是（shì）因為，人工智能造假能力的（de）進步速度遠遠超過（guò）了信息識（shí）偽技術的（de）開發速度。如今，任何人都可以快速地、低成（chéng）本地生（shēng）成難辨真假（jiǎ）的（de）圖像、音頻甚至視頻，而且難以（yǐ）追蹤。與之相反，識偽技術則因在主題和軟件方麵具有特異性，難以得到普及。此外，核查事實需要（yào）花費更多時間精力。據日本瑞穗研究（jiū）所及技（jì）術公司的調查，70%的日本受訪者認為互聯網上的（de）信息很難判斷（duàn）真假，但隻有26%的受訪（fǎng）者表示在接觸可疑信息後會進行某（mǒu）種程度的驗證。

　　今年年（nián）初，世界經濟論壇（tán）發布《2024年全球風險報告》，將人（rén）工智能生成的錯誤信息和虛假信息列為“未來兩年全球十大風險”之首，擔心（xīn）其會（huì）使本就兩極（jí）分化、衝突頻發的全球（qiú）形勢進（jìn）一步惡化。考慮到2024年是全球（qiú）“大選年”，70多個國家（jiā）或（huò）地區將舉行（háng）重（chóng）要選舉，人們擔憂人工智（zhì）能（néng）會被武器化，被用來誤導選民、誹謗候選（xuǎn）人，甚至煽動暴力、仇恨和恐（kǒng）怖主義。

　　“2024年的美國大選將出（chū）現人（rén）工智能生（shēng）成的虛假信息海嘯。”正如美國布魯金斯學會技術創新中心高級（jí）研究（jiū）員達雷爾（ěr）·韋（wéi）斯特所言，美國大選（xuǎn）剛剛迎來初選階段，就已經（jīng）有人試圖利（lì）用“深（shēn）度偽造”操（cāo）控選民了。今年1月，美（měi）國民（mín）主（zhǔ）黨初選在新罕布什（shí）爾州舉行，很多選民表（biǎo）示在初選前接（jiē）到（dào）了“來自美國總統拜登的電話”，電話裏“拜登”建議選民不要參與初選（xuǎn），應（yīng）該把選票留到11月大選時投給民主黨。這（zhè）則電話實際上是拜登競（jìng）爭對手迪安·菲利普斯的（de）政治顧問克雷（léi）默安排的。他利（lì）用人工智能模擬了拜登的聲音，並撥給了最有可能受影響的選民。克雷默甚至直言：“隻需要500美元，任何人都（dōu）可以再現我的行為。”

　　業內人士擔心，“深度偽造”內容的泛濫會讓公眾完（wán）全失去對自身（shēn）感官的信任，真實（shí）信息也同樣會遭（zāo）到更多質疑。比如2016年（nián），特朗（lǎng）普曾極力宣稱與其有關的一份醜聞錄音是（shì）捏造的。若（ruò）此事發生在（zài）當下，他的詭（guǐ）辯可能更具說服力。

　　類似的（de）問題（tí）已在全球多國出現，然而技（jì）術的（de）發展走在了各（gè）國的法律和行業規範之前，目前（qián）不得（dé）不更多依賴科技公司的“自我監管”來解決問題。在2月舉行的第60屆慕（mù）尼黑安全會議期間，全球多家科技企業簽署協議，承諾將共同努力打擊（jī）旨在幹擾選舉的人工智能濫用行（háng）為，包括開發識偽工具，同時在生成圖像（xiàng）上添加“非現（xiàn）實內容”標簽及電子水印以明確其（qí）來源。部分企業還在考慮禁止政治候選人圖像的生成。然而，有媒體認為上述協議僅勾勒出（chū）一些最基本的原則，並沒有寫明企業履行承諾的具體（tǐ）措施及時間表，空洞的集體表態更像（xiàng）是一場公關活動。更何（hé）況，科技公司對其人工智能產品進行主（zhǔ）觀調控，是否意味著會將公司的價值（zhí）觀強加給用戶，這也是一個（gè）問題。

　　此外，電子水印技術尚（shàng）存（cún）在不足。比如，“內（nèi）容來（lái）源（yuán）和真（zhēn）實性聯盟”提供的水印隻（zhī）能被用於靜止圖像，而且“很容易被意外或故（gù）意刪除”。因此，從源頭控製虛假信息生成的（de）難度、限（xiàn）製虛假信息在社交媒體的傳（chuán）播以及培養（yǎng）公眾（zhòng）的批判性思維等，仍是各國解決“深度（dù）偽造”問題（tí）時不得不麵對的難點。

　　“AI戰爭”的陰影（yǐng）

　　盡管公眾對人工智能興趣大增主要是由（yóu）於生成式人（rén）工智能的發（fā）展，但多國軍（jun1）方早已將（jiāng）注意力投向了人工智能（néng）技術在戰場上的應用，尤其是能夠進行深度學習的自主武器係統。美國戰略界把人工智能的發展與曆史上核武器的出現相類比，美知名（míng）科（kē）技企業家埃隆·馬斯克也認為，人工智（zhì）能（néng）技術的擴散已讓各國企業可以“在自（zì）家後院製造核彈”。

　　在當前全球最（zuì）受關注（zhù）的兩場衝突中都（dōu）能看到人工智能的應用（yòng）。美《時代》周刊近日刊文（wén）將俄烏衝突稱為“第一場人（rén）工智（zhì）能戰爭”，披露美國科技公司（sī）帕蘭蒂爾向烏克蘭提供人工智能軟件，通過（guò）分析衛星圖像、無人機畫麵等情（qíng）報提供打擊（jī）敵（dí）軍的最有效目標，並根據（jù）每次打擊進行學習和改進。報道稱，這些“人工（gōng）智能軍火商”儼然把烏克蘭當作了（le）其最新科技的最佳實驗場。

　　在巴以（yǐ）衝突中，以色列（liè）軍隊已將人（rén）工（gōng）智能技術用（yòng）於摧毀無人機、繪製隧道網絡地圖，以（yǐ）及推薦打（dǎ）擊目標。據報道，名為“福音”的人工智能係統讓以軍尋找攻擊目（mù）標的效率提升了幾百倍。不少媒體擔心（xīn）這（zhè）可（kě）能意味（wèi）著係統不僅鎖（suǒ）定了軍事設施，也在轟炸平民住所，“人（rén）工智能可能正被用於（yú）決定加沙居民（mín）的生死”。

　　而早在（zài）2020年就首次（cì）實驗人工智能目標識別的（de）美國，最近也廣泛（fàn）利用該技術定位也門（mén）的火箭發射裝置、紅海的水麵艦艇，以及伊拉克和敘利亞（yà）的打擊目標。

　　據美媒報道，美國軍方還不斷加強與OpenAI等領先（xiān）企業的（de）合作。2023年8月，生成式人工智能的浪潮掀起不久，美國防部數字（zì）和人工智（zhì）能首席辦公室便迅速成立“生成式人工智能工作組（zǔ）”。今年1月，OpenAI悄無聲息地更新了其“使用政策”頁（yè）麵，刪除了其中對“軍事和戰爭”應用的限製（zhì），將條款改（gǎi）為更（gèng）模糊的“禁（jìn）止利用產品開發或使用武器”。不久後，該公司承認正與五角大樓合作開展包括研（yán）發網絡安全工具在內的多個項目（mù）。近日，美國（guó）防部高級（jí）官（guān）員再次邀請美科技企業參加（jiā）秘密會議，希望加速探索和實施人工智能的（de）軍事應用。

　　相關（guān）專家認為，人類在幾十年間成功（gōng）遏止核武器使用，靠的是各國間的戰略協調。目前全球缺乏人工智能軍事應用的國際治理框架，極易因技術失控導致衝突升級或引發軍備競賽，迫切需要盡快達成多邊共識。聯合（hé）國秘書（shū）長古特雷（léi）斯此前強調，聯合國必須在2026年前達成具有法律約束力的（de）協（xié）議，禁止在自動化戰（zhàn）爭武器中使（shǐ）用人工智能。

　　國際協調合作不可或缺

　　人工智能（néng）同（tóng）時具有正反兩方麵的巨大（dà）潛能，需及時采取措施（shī）防（fáng）範風險。2016年以來，各國陸續發布相關政策法規，但進展仍趕不（bú）上技術的進（jìn）步。去年10月（yuè），拜（bài）登簽署美國首項人工智能監管行政令，為（wéi）人工智能建立安全和隱（yǐn）私保護標準，但（dàn）被指（zhǐ）缺乏強製執行效能。歐盟方（fāng）麵，雖然（rán）歐洲議會於3月13日通過（guò）《人工智能法案》，但是法案中的相關條款將（jiāng）分階段實施，部分規（guī）則要到2025年才生效。日本執政黨自民黨直到最近才宣布計劃在年內提議政府引入生（shēng）成式人工（gōng）智能立法。

　　無論是生成（chéng）式人工智能帶來的虛假信息問題，還是人工智能軍事應用的風險，其影響（xiǎng）都是跨越國界的（de）。因此，人工智能（néng）的監管和治理應通（tōng）過國際合作來（lái）解決，各國（guó）應共同做好風險防範，攜手共建具有廣泛共識的人工智能（néng）治理框架和標準規範。

　　然而遺憾的是，美（měi）國不僅從一開（kāi）始就把（bǎ）中國的人工智（zhì）能發展計劃當（dāng）作敵對行為，在布局人工智能軍事應用時把中國（guó）視為假想敵，而且為了維持技術優勢，長期（qī）阻礙中國技術進步。據（jù）報道，美（měi）政府不僅禁止美國（guó）企業對華出口處理（lǐ）能（néng）力最強的人（rén）工智能芯片，還要求美（měi）國雲計（jì）算公司披露在其平台上開發人工（gōng）智能應用程序的（de）外國客戶姓名，試（shì）圖借此阻斷中國企業訪問數據中心和服務器。

　　人工智能的（de）發（fā）展治理（lǐ）攸（yōu）關全人類命運，需（xū）要群策（cè）群力、協調應對。在人工智能領域搞“小院高牆”隻會削弱人類共同應對風險挑戰的能力。美國應切實尊重科技發（fā）展的客觀規律，尊（zūn）重（chóng）市場經濟和公平競爭原則，停止惡意阻撓他（tā）國技術發展，為加強人工智能領域的國際協調（diào）合作創造良好條件。

記者：楊逸夫
編輯（jí）：盧岩
來源：光明（míng）日報