新聞中(zhōng)心

　　近年來，人工(gōng)智能(AI)技術的更叠讓人目不暇接。語言模型領域取得重大(dà)突破的2023年剛剛過去(qù)，2024年，人們又(yòu)迎來了視頻(pín)和物(wù)理世界虛拟生(shēng)成方面的突破。然而，在人工(gōng)智能技術被廣泛應用于科創、文化、教育、醫藥、交通等各行各業，甚至進入日常生(shēng)活的當下(xià)，其被濫用的風險已開(kāi)始引發擔憂。

　　“深度僞造”真假難辨

　　使用人工(gōng)智能算法生(shēng)成的高度逼真的虛假圖像、音頻(pín)和視頻(pín)等，被稱爲“深度僞造”内容。自這一(yī)概念于2017年首次出現以來，借助該技術詐騙或操縱輿論的事件在全球愈加頻(pín)發。以美國爲例，過去(qù)一(yī)年裏人工(gōng)智能詐騙事件同比增幅超過了50%。

　　然而時至今日，人們仍未能有效解決該問題。這是因爲，人工(gōng)智能造假能力的進步速度遠遠超過了信息識僞技術的開(kāi)發速度。如今，任何人都可以快速地、低成本地生(shēng)成難辨真假的圖像、音頻(pín)甚至視頻(pín)，而且難以追蹤。與之相反，識僞技術則因在主題和軟件方面具有特異性，難以得到普及。此外(wài)，核查事實需要花費(fèi)更多時間精力。據日本瑞穗研究所及技術公司的調查，70%的日本受訪者認爲互聯網上的信息很難判斷真假，但隻有26%的受訪者表示在接觸可疑信息後會進行某種程度的驗證。

　　今年年初，世界經濟論壇發布《2024年全球風險報告》，将人工(gōng)智能生(shēng)成的錯誤信息和虛假信息列爲“未來兩年全球十大(dà)風險”之首，擔心其會使本就兩極分(fēn)化、沖突頻(pín)發的全球形勢進一(yī)步惡化。考慮到2024年是全球“大(dà)選年”，70多個國家或地區将舉行重要選舉，人們擔憂人工(gōng)智能會被武器化，被用來誤導選民、诽謗候選人，甚至煽動暴力、仇恨和恐怖主義。

　　“2024年的美國大(dà)選将出現人工(gōng)智能生(shēng)成的虛假信息海嘯。”正如美國布魯金斯學會技術創新中(zhōng)心高級研究員(yuán)達雷爾·韋斯特所言，美國大(dà)選剛剛迎來初選階段，就已經有人試圖利用“深度僞造”操控選民了。今年1月，美國民主黨初選在新罕布什爾州舉行，很多選民表示在初選前接到了“來自美國總統拜登的電(diàn)話(huà)”，電(diàn)話(huà)裏“拜登”建議選民不要參與初選，應該把選票(piào)留到11月大(dà)選時投給民主黨。這則電(diàn)話(huà)實際上是拜登競争對手迪安·菲利普斯的政治顧問克雷默安排的。他利用人工(gōng)智能模拟了拜登的聲音，并撥給了最有可能受影響的選民。克雷默甚至直言：“隻需要500美元，任何人都可以再現我(wǒ)的行爲。”

　　業内人士擔心，“深度僞造”内容的泛濫會讓公衆完全失去(qù)對自身感官的信任，真實信息也同樣會遭到更多質疑。比如2016年，特朗普曾極力宣稱與其有關的一(yī)份醜聞錄音是捏造的。若此事發生(shēng)在當下(xià)，他的詭辯可能更具說服力。

　　類似的問題已在全球多國出現，然而技術的發展走在了各國的法律和行業規範之前，目前不得不更多依賴科技公司的“自我(wǒ)監管”來解決問題。在2月舉行的第60屆慕尼黑安全會議期間，全球多家科技企業簽署協議，承諾将共同努力打擊旨在幹擾選舉的人工(gōng)智能濫用行爲，包括開(kāi)發識僞工(gōng)具，同時在生(shēng)成圖像上添加“非現實内容”标簽及電(diàn)子水印以明确其來源。部分(fēn)企業還在考慮禁止政治候選人圖像的生(shēng)成。然而，有媒體(tǐ)認爲上述協議僅勾勒出一(yī)些最基本的原則，并沒有寫明企業履行承諾的具體(tǐ)措施及時間表，空洞的集體(tǐ)表态更像是一(yī)場公關活動。更何況，科技公司對其人工(gōng)智能産品進行主觀調控，是否意味着會将公司的價值觀強加給用戶，這也是一(yī)個問題。

　　此外(wài)，電(diàn)子水印技術尚存在不足。比如，“内容來源和真實性聯盟”提供的水印隻能被用于靜止圖像，而且“很容易被意外(wài)或故意删除”。因此，從源頭控制虛假信息生(shēng)成的難度、限制虛假信息在社交媒體(tǐ)的傳播以及培養公衆的批判性思維等，仍是各國解決“深度僞造”問題時不得不面對的難點。

　　“AI戰争”的陰影

　　盡管公衆對人工(gōng)智能興趣大(dà)增主要是由于生(shēng)成式人工(gōng)智能的發展，但多國軍方早已将注意力投向了人工(gōng)智能技術在戰場上的應用，尤其是能夠進行深度學習的自主武器系統。美國戰略界把人工(gōng)智能的發展與曆史上核武器的出現相類比，美知(zhī)名科技企業家埃隆·馬斯克也認爲，人工(gōng)智能技術的擴散已讓各國企業可以“在自家後院制造核彈”。

　　在當前全球最受關注的兩場沖突中(zhōng)都能看到人工(gōng)智能的應用。美《時代》周刊近日刊文将俄烏沖突稱爲“第一(yī)場人工(gōng)智能戰争”，披露美國科技公司帕蘭蒂爾向烏克蘭提供人工(gōng)智能軟件，通過分(fēn)析衛星圖像、無人機畫面等情報提供打擊敵軍的最有效目标，并根據每次打擊進行學習和改進。報道稱，這些“人工(gōng)智能軍火(huǒ)商(shāng)”俨然把烏克蘭當作了其最新科技的最佳實驗場。

　　在巴以沖突中(zhōng)，以色列軍隊已将人工(gōng)智能技術用于摧毀無人機、繪制隧道網絡地圖，以及推薦打擊目标。據報道，名爲“福音”的人工(gōng)智能系統讓以軍尋找攻擊目标的效率提升了幾百倍。不少媒體(tǐ)擔心這可能意味着系統不僅鎖定了軍事設施，也在轟炸平民住所，“人工(gōng)智能可能正被用于決定加沙居民的生(shēng)死”。

　　而早在2020年就首次實驗人工(gōng)智能目标識别的美國，最近也廣泛利用該技術定位也門的火(huǒ)箭發射裝置、紅海的水面艦艇，以及伊拉克和叙利亞的打擊目标。

　　據美媒報道，美國軍方還不斷加強與OpenAI等領先企業的合作。2023年8月，生(shēng)成式人工(gōng)智能的浪潮掀起不久，美國防部數字和人工(gōng)智能首席辦公室便迅速成立“生(shēng)成式人工(gōng)智能工(gōng)作組”。今年1月，OpenAI悄無聲息地更新了其“使用政策”頁面，删除了其中(zhōng)對“軍事和戰争”應用的限制，将條款改爲更模糊的“禁止利用産品開(kāi)發或使用武器”。不久後，該公司承認正與五角大(dà)樓合作開(kāi)展包括研發網絡安全工(gōng)具在内的多個項目。近日，美國防部高級官員(yuán)再次邀請美科技企業參加秘密會議，希望加速探索和實施人工(gōng)智能的軍事應用。

　　相關專家認爲，人類在幾十年間成功遏止核武器使用，靠的是各國間的戰略協調。目前全球缺乏人工(gōng)智能軍事應用的國際治理框架，極易因技術失控導緻沖突升級或引發軍備競賽，迫切需要盡快達成多邊共識。聯合國秘書(shū)長古特雷斯此前強調，聯合國必須在2026年前達成具有法律約束力的協議，禁止在自動化戰争武器中(zhōng)使用人工(gōng)智能。

　　國際協調合作不可或缺

　　人工(gōng)智能同時具有正反兩方面的巨大(dà)潛能，需及時采取措施防範風險。2016年以來，各國陸續發布相關政策法規，但進展仍趕不上技術的進步。去(qù)年10月，拜登簽署美國首項人工(gōng)智能監管行政令，爲人工(gōng)智能建立安全和隐私保護标準，但被指缺乏強制執行效能。歐盟方面，雖然歐洲議會于3月13日通過《人工(gōng)智能法案》，但是法案中(zhōng)的相關條款将分(fēn)階段實施，部分(fēn)規則要到2025年才生(shēng)效。日本執政黨自民黨直到最近才宣布計劃在年内提議政府引入生(shēng)成式人工(gōng)智能立法。

　　無論是生(shēng)成式人工(gōng)智能帶來的虛假信息問題，還是人工(gōng)智能軍事應用的風險，其影響都是跨越國界的。因此，人工(gōng)智能的監管和治理應通過國際合作來解決，各國應共同做好風險防範，攜手共建具有廣泛共識的人工(gōng)智能治理框架和标準規範。

　　然而遺憾的是，美國不僅從一(yī)開(kāi)始就把中(zhōng)國的人工(gōng)智能發展計劃當作敵對行爲，在布局人工(gōng)智能軍事應用時把中(zhōng)國視爲假想敵，而且爲了維持技術優勢，長期阻礙中(zhōng)國技術進步。據報道，美政府不僅禁止美國企業對華出口處理能力最強的人工(gōng)智能芯片，還要求美國雲計算公司披露在其平台上開(kāi)發人工(gōng)智能應用程序的外(wài)國客戶姓名，試圖借此阻斷中(zhōng)國企業訪問數據中(zhōng)心和服務器。

　　人工(gōng)智能的發展治理攸關全人類命運，需要群策群力、協調應對。在人工(gōng)智能領域搞“小(xiǎo)院高牆”隻會削弱人類共同應對風險挑戰的能力。美國應切實尊重科技發展的客觀規律，尊重市場經濟和公平競争原則，停止惡意阻撓他國技術發展，爲加強人工(gōng)智能領域的國際協調合作創造良好條件。

記者：楊逸夫
編輯：盧岩
來源：光明日報