編者按
美國新聞網站“攔截”8月25日曝光稱，美國特種作戰司令有意獲取機器學習技術，以便在海外開展人工智能宣傳活動。
美國特種作戰部隊采購、技術和后勤中心的文件提供了美國特種作戰部隊近期軍事技術愿望清單，披露了美國特種作戰司令部希望在未來5到7年內采購的各類裝備的新細節，其中包括可用于信息戰的機器學習軟件。文件顯示，美國特種作戰司令部正在尋找能夠利用具有專門角色的代理式人工智能或多大語言模型代理系統來擴大影響力行動規模的能力的承包商，以增強用于“軍事信息支援行動”（MISO）的先進技術。該文件指出，信息環境快速變化，軍事部門無法充分吸引和影響互聯網上的受眾，建立支持美國特種作戰司令部目標的項目有助于實時掌控敘事并影響受眾。
文件顯示，美國特種作戰司令部希望獲取與外國能力高度匹配的技術，利用機器人搜索和吸收大量互聯網聊天，以便更好地說服目標人群或個人就任何特定主題發表意見；美國特種作戰司令部希望利用自動化系統抓取信息環境，分析形勢，并根據MISO的目標做出回應；美國特種作戰司令部希望，相關技術能夠回復帖子，壓制異議，并生成可供參考的原始資料，以支持友好的論點和信息；美國特種作戰司令部還希望，該程序能夠訪問試圖反駁或抹黑美方信息的個人或團體的個人資料、網絡和系統，利用所獲得的信息，創建更有針對性的信息，以影響特定的個人或團體；美國特種作戰司令部預計將使用生成式系統來制作宣傳信息，并模擬相關宣傳傳播后的接受情況；美國特種作戰司令部希望能夠使用能夠復制團隊中不同角色成員所需的特定知識、技能、能力、性格特征和社會文化屬性的代理系統，然后集思廣益，并針對基于代理的個人和團體摹本測試作戰行動，使MISO規劃人員能夠實驗或測試各種不同的場景；美國特種作戰司令部還希望獲取進攻性深度造假能力。
奇安網情局編譯有關情況，供讀者參考。
美國新聞網站“攔截”審查的美國特種作戰司令部文件顯示，美國希望利用機器學習在海外制作和傳播宣傳，以“影響外國目標受眾”和“壓制不同意見”。
該文件類似于一份美國特種作戰部隊近期軍事技術愿望清單，披露了美國特種作戰司令部希望在未來5到7年內采購的各類裝備的新細節，包括最先進的攝像頭、傳感器、定向能武器以及其他幫助作戰人員找到并擊斃目標的設備。美國特種作戰司令部希望采購的技術中，包括可用于信息戰的機器學習軟件。
為了加強其“軍事信息支援行動（MISO）的先進技術增強”，美國特種作戰司令部正在尋找能夠“利用具有專門角色的代理式人工智能或多大語言模型（LLM）代理系統來擴大影響力行動規模的能力”的承包商。
所謂的“代理式”系統使用機器學習模型，據稱只需極少的人工指令或監督即可運行。這些系統可以與大語言模型（LLM）結合使用，例如ChatGPT，后者可以根據用戶提示生成文本。盡管許多市場宣傳都圍繞著這些代理式系統和LLM執行在線購物和訂票等日常任務的潛力，但美國特種作戰司令部認為，這些技術可能非常適合運營一個自主的宣傳機構。
該文件指出，“信息環境變化太快，軍事部門無法充分吸引和影響互聯網上的受眾。建立一個支持我們目標的項目，可以讓我們實時掌控敘事并影響受眾。”
美國法律和五角大樓的政策通常禁止軍事宣傳活動針對美國受眾，但互聯網的多孔性使得這一點難以保證。
美國特種作戰司令部發言人丹·萊薩德在一份聲明中承認，美國特種作戰司令部正在追求“尖端的、人工智能支持的能力”。他表示，“所有人工智能功能均在美國防部負責任的人工智能框架下開發和使用，該框架要求人工監督和決策，以確保問責制和透明度。美國特種作戰司令部基于互聯網的MISO工作符合美國法律和政策。這些行動不針對美國公眾，旨在應對日益復雜的全球挑戰，支持國家安全目標。”
盡管OpenAI的ChatGPT和谷歌的Gemini等工具容易出現事實錯誤和其他不穩定的輸出，但它們的人氣卻飆升。它們能夠立即生成幾乎任何主題、幾乎任何語氣的文本——從隨意的噴子到偽學術——這可能標志著互聯網宣傳人員的一次重大飛躍。這些工具使用戶能夠針對任意數量的受眾微調信息，而無需投入時間或人力成本。
人工智能生成的宣傳是否有效仍是一個懸而未決的問題，但這種做法在現實生活中已被充分記錄。2024年5月，OpenAI發布了一份報告，揭露了伊朗、俄羅斯等國的行為者試圖利用該公司的工具進行秘密影響力活動，但發現這些活動均未取得特別顯著的成功。美國布魯金斯學會的杰西卡·布蘭特在2023年美參議院人工智能洞察論壇前的評論中警告稱，“大語言模型（LLM）可以提高信息宣傳的個性化，從而增強其說服力。”她警告稱，在一個充斥著人工智能信息戰活動的在線生態系統中，“人們對客觀真相存在的懷疑可能會增加”。2024年發表在學術期刊PNAS Nexus上的一項研究發現，“語言模型生成的文本對美國受眾的說服力幾乎與我們從現實世界外國秘密宣傳活動中獲取的內容一樣強。”
毫不奇怪，美國國家安全機構現在堅稱，如果這項技術掌握在俄羅斯等外國勢力手中，將構成最可怕的威脅。為應對上述外來威脅，美國范德堡大學政治學教授布雷特·本森和前美國防部官員布雷特·戈德斯坦認為，美國政府、學術界和私營部門必須采取“協調一致的應對措施”。他們認為，這種應對措施本質上是防御性的：追蹤并反擊外國的人工智能宣傳。
這并不是美國特種作戰部隊采購、技術和后勤中心的文件所表明的五角大樓所尋求的。這些材料表明，美國特種作戰司令部認為，它需要與外國能力高度匹配的技術，利用機器人搜索和吸收大量互聯網聊天，以便更好地說服目標人群或個人就任何特定主題發表意見。
美國特種作戰司令部表示，它特別希望“自動化系統能夠抓取信息環境，分析形勢，并根據MISO的目標做出回應。這項技術應該能夠回復帖子，壓制異議，并生成可供參考的原始資料，以支持友好的論點和信息。”
美國五角大樓正在密切關注那些可能揭露其宣傳努力的人。該文件指出，“該程序還應該能夠訪問那些試圖反駁或抹黑我們信息的個人或團體的個人資料、網絡和系統。該程序應該利用所獲得的信息，創建更有針對性的信息，以影響特定的個人或團體。”
該文件指出，美國特種作戰司令部預計將使用生成性系統來制作宣傳信息，并模擬這些宣傳一旦被傳播出去后會如何被接受。美國特種作戰司令部希望能夠使用“能夠復制團隊中不同角色成員所需的特定知識、技能、能力、性格特征和社會文化屬性的代理系統”，然后“集思廣益，并針對基于代理的個人和團體摹本測試作戰行動”。這些模擬比焦點小組更為復雜，需要“構建涵蓋整個社會的綜合模型，使MISO規劃人員能夠使用這些模型來實驗或測試各種不同的場景”。
美國特種作戰司令部的愿望清單繼續包括對進攻性深度造假能力的需求，該消息于2023年由“攔截”首次報道。
大語言模型可能會無休止地炮制精心制作的宣傳，這一前景令人擔憂——但一般來說，美國是目標，而不是實施者。
美國國務院資助的非營利組織“自由之家”在2023年發布的一份報告中警告了“人工智能的壓制力量”，并預測“隨著惡意行為者開發出更多繞過安全措施和利用開源模型的方法，人工智能輔助的虛假宣傳活動將激增”。“自由之家”的報告警列舉了俄羅斯等國的潛在用途，但僅在關于羅恩·德桑蒂斯和唐納德·特朗普總統競選活動以及一段被篡改成喬·拜登發表恐跨性別言論的深度造假視頻的簡短章節中提到了該技術的國內應用。前美國國家安全委員會新興技術主管安德魯·洛恩表示，一個能夠覆蓋全球的自動化宣傳機器在多大程度上會引起公眾的關注，取決于其應用范圍。他稱，“如果一些外國士兵誤以為我們的特別行動將于周三早上通過直升機從東部進行，而不是周二晚上通過船從西部進行，我不會那么擔心。”
美軍有出于政治或意識形態目的操縱平民的歷史。一個令人不安的例子在2024年被揭露。路透社報道稱，美國國防部在社交媒體上開展了一場秘密的反疫苗運動，旨在削弱公眾對中國新冠疫苗的信心，擔心其有效性可能會使亞洲國家與一個主要的地緣政治對手走得更近。美國五角大樓發布的推文稱中國科興疫苗是“假的”且不可信的，而世界衛生組織稱其“安全有效”的。據路透社報道，時任美國太平洋特種作戰司令部指揮官喬納森·布拉加通過支持這場秘密宣傳運動，“敦促他在華盛頓的上司在所謂的信息空間進行反擊”。
蘭德公司專注于機器學習系統和五角大樓采購的地緣政治行為科學家威廉·馬塞利諾表示，此類系統的建立是出于必要。他稱，“像俄羅斯這樣的政權正在利用人工智能進行大規模的惡意影響活動”，對抗這些活動可能需要大規模的人工智能響應。
近年來，美國特種作戰司令部公開表示希望開發基于人工智能的宣傳系統。這些聲明表明，其興趣范圍更廣泛，涵蓋了針對整個人口的影響力行動，而非僅僅針對軍事人員。
2019年，美國五角大樓一位高級特種作戰官員在一次國防研討會上表示，美國“需要超越20世紀的信息傳遞方式，開始將影響力視為現代非常規戰爭的一個組成部分”。這位官員指出，這“還需要在世界各地建立超越傳統行為體的新伙伴關系，努力擴大非政府組織和個人的聲音，讓競爭對手的惡意活動更加透明。”2020年，時任美國特種作戰司令部司令理查德·克拉克表達了他對利用人工智能實現這些目標的興趣。
理查德·克拉克在2020年發表的講話中表示，“當我們考慮在這種信息環境中影響和塑造的能力時，我們必須擁有人工智能和機器學習工具，特別是針對影響范圍非常廣泛的信息作戰，因為我們必須了解對手的想法、民眾的想法，并在這些領域開展工作。”
AI Now Institute首席科學家、OpenAI前安全工程師海蒂·克拉夫警告不要采取以牙還牙的做法，稱“將生成式人工智能和代理式人工智能的使用僅僅視為對對手使用的一種緩解措施是對這項技術的誤解，因為進攻和防御實際上是同一枚硬幣的兩面，他們能夠以與對手完全相同的方式使用它。”
美國大西洋理事會數字取證研究實驗室高級研究員埃默森·布魯金表示，自動化的網絡影響力活動最終可能收效甚微。他稱，“俄羅斯一直在使用人工智能程序來自動化其影響力行動。這些程序效果并不好。”
埃默森·布魯金警告稱，大語言模型在用戶提示下編造謊言和延續先入之見的傾向也可能成為一大隱患。他稱，“當他們肩負著了解一個復雜且研究不足的國家‘民心’的任務時，他們可能會嚴重依賴人工智能的幫助，而人工智能很可能會告訴他們那些他們本來就想聽到的東西。”
海蒂·克拉夫表示，科技公司大力宣傳的“代理式”系統是獨立的數字大腦，但這些系統仍然容易出錯且難以預測。她稱，“在這些虛假信息宣傳活動中引入代理式人工智能，增加了安全方面的擔憂，因為多項研究結果表明，我們很容易就能破壞和操控代理式人工智能的行為。如果這些安全問題得不到解決，美國特種作戰司令部的宣傳活動不僅可能受到損害，而且還可能產生非預期的材料。”
埃默森·布魯金還指出，美國此前的網絡宣傳活動記錄良莠不齊。2022年，研究人員揭露了一個由美國中央司令部秘密運營的推特和臉書賬戶網絡，該網絡一直在推送包含反俄羅斯和反伊朗言論的虛假新聞文章。該網絡在這兩個社交網絡上都未能獲得關注，很快就讓美國五角大樓感到尷尬。他稱，“我們從其他公開報道中得知，美國長期以來一直試圖‘壓制不同意見’，并在某些行動領域制造正面報道。我們也知道，這些努力收效甚微，一旦被美國公眾知曉，可能會令人深感尷尬或適得其反。人工智能往往會讓這些行動變得更加愚蠢，而不是更加有效。”
