數(shù)據(jù)輸入泄露國家機(jī)密。在使用大數(shù)據(jù)模型的過程中，GAI 可能會從用戶輸入的信息中訪問、吸收并記憶敏感信息，進(jìn)而在模型訓(xùn)練和內(nèi)容生成時利用這些信息，從而導(dǎo)致隱私數(shù)據(jù)的泄露。目前，缺乏嚴(yán)格的法律規(guī)范來監(jiān)管數(shù)據(jù)管理的透明度，GAI 的生成過程對用戶而言類似于一個“黑匣子”，很難進(jìn)行審計或數(shù)據(jù)驗證，這阻礙了對潛在隱私威脅的識別和預(yù)防，使得無法充分評估敏感數(shù)據(jù)風(fēng)險。當(dāng)用戶選擇使用 GAI 時，其決定主要基于對隱私政策的閱讀，但可能并不了解數(shù)據(jù)暴露的真實(shí)程度。當(dāng)意識到時，數(shù)據(jù)可能已經(jīng)被披露。這種缺乏透明度和意識滯后的情況增加了用戶對其隱私的擔(dān)憂，也對保護(hù)國家機(jī)密構(gòu)成了重大威脅。倘若國家重要領(lǐng)域的相關(guān)人員在使用過程中不慎輸入敏感信息，將直接導(dǎo)致國家機(jī)密被泄露。同時，間諜也可故意泄露國家機(jī)密，并在事后以不知情為由脫罪。

分析開源數(shù)據(jù)輸出情報。隨著傳感器的普及和大量數(shù)據(jù)集的可用性，GAI 被用于整理和融合來自各種傳感器和信息源的數(shù)據(jù)，并通過篩選來檢測和識別異常并提供見解，以提高對態(tài)勢的認(rèn)識和支持決策。此前，英國信息專員辦公室（ICO）發(fā)布的《網(wǎng)絡(luò)爬取個人數(shù)據(jù)訓(xùn)練生成式人工智能模型的合法依據(jù)》征求意見稿中指出，通過網(wǎng)絡(luò)數(shù)據(jù)爬取收集數(shù)據(jù)是一種“隱形處理”的活動，被爬取者不會意識到自己的個人數(shù)據(jù)以這種方式被處理，因此，無法行使數(shù)據(jù)保護(hù)法賦予的權(quán)利。間諜組織利用這種隱秘性惡意爬取數(shù)據(jù)后，通過大數(shù)據(jù)分析便可能獲取重要的情報信息，如秘密軍事基地、政府重要官員的敏感信息等。而當(dāng)非法爬取獲取的數(shù)據(jù)被傳輸出境后，被爬取的國家便失去了對該部分?jǐn)?shù)據(jù)的管理權(quán)和對境外數(shù)據(jù)的自主控制權(quán)，這為國家安全埋下了重大隱患。

目前，美國情報機(jī)構(gòu)已開始試驗自己的 GAI 程序，中央情報局（CIA）正準(zhǔn)備推出一項類似 ChatGPT 的大模型，使分析師能更好地獲取開源情報，并與其他國家開展新的情報較量。

深度偽造是一種利用 AI 等新興技術(shù)操縱音視頻、圖像或文本內(nèi)容的技術(shù)，其目的是產(chǎn)生誤導(dǎo)效果。深度偽造最初主要用于娛樂目的，但后來逐漸演變?yōu)榫W(wǎng)絡(luò)犯罪的工具，如近年來頻發(fā)的利用偽造聲音和人像進(jìn)行的電信詐騙案件。在 GAI 高速發(fā)展的背景下，深度偽造技術(shù)在一些安全領(lǐng)域表現(xiàn)出被武器化的趨勢?；?GAI 的深度偽造技術(shù)極易創(chuàng)建出看似真實(shí)但實(shí)際虛假的內(nèi)容，用以惡意誘導(dǎo)，從而危害國家安全和社會穩(wěn)定。2024 年 1 月，世界經(jīng)濟(jì)論壇發(fā)布的《2024 年全球風(fēng)險報告》將“AI 衍生的錯誤信息和虛假信息及其對社會兩極分化的影響”列為未來兩年的十大風(fēng)險之首。在當(dāng)今時代，數(shù)據(jù)和信息是各個領(lǐng)域的關(guān)鍵資源，識別、檢測和區(qū)分在線內(nèi)容的真?zhèn)巫兊弥陵P(guān)重要。

干擾選舉。隨著 AI 技術(shù)的廣泛應(yīng)用，當(dāng)今的選舉也進(jìn)入了“AI 時代”?！凹夹g(shù)影響政治”這一話題被擺在了前所未有的突出位置。一些利益集團(tuán)或個人利用深度偽造技術(shù)制造社會輿論或?qū)Ω偁帉κ诌M(jìn)行政治攻擊。例如，發(fā)布一些對手發(fā)表不當(dāng)言論的視頻，引起公眾對政府的懷疑，從而操縱輿論和干預(yù)選舉。例如，在 2023 年末的阿根廷大選中，雙方都公開使用了大量由 GAI 生成的內(nèi)容，以抹黑競爭對手并為自己助選。在這些風(fēng)波當(dāng)中，互聯(lián)網(wǎng)與 GAI 技術(shù)被用于操縱民眾輿論的規(guī)模之大、隱蔽性之高，若對此類行為發(fā)現(xiàn)不及時、解決不到位，將會引起嚴(yán)重的政治后果。

惡意國際競爭。GAI 在緊張的國際局勢中也能起到“推波助瀾”的作用。具有競爭關(guān)系的國家之間可能會利用這項技術(shù)創(chuàng)造看似更可信、具有惡意影響的外國運(yùn)動，通過偽造視頻和圖像的方式試圖破壞對手國家的人民對其政府和社會的信任。二戰(zhàn)結(jié)束后，輿論戰(zhàn)便代替了軍事戰(zhàn)爭，在國與國的競爭中占據(jù)了主導(dǎo)地位。在信息時代，輿論戰(zhàn)可謂是沒有硝煙的戰(zhàn)爭，其對國家安全、意識形態(tài)安全、文化安全都將產(chǎn)生一定的影響。借助 GAI，有關(guān)國家能夠利用數(shù)據(jù)投毒等手段生成缺乏真實(shí)性和正義性的信息，并借助輿論進(jìn)行傳播，以達(dá)到國際競爭的目的。

隨著 GAI 的快速發(fā)展，越來越多的黑客將這項技術(shù)用于犯罪活動，導(dǎo)致網(wǎng)絡(luò)攻擊案件頻發(fā)。一些非法的大語言模型不受道德和法律的約束，能夠生成用于網(wǎng)絡(luò)攻擊的惡意軟件等工具。例如，被稱為 ChatGPT 的黑帽替代品 WormGPT，目前已使用超過 60 億個參數(shù)，并且利用大量與惡意軟件相關(guān)的數(shù)據(jù)或犯罪內(nèi)容進(jìn)行了訓(xùn)練，成為最新的AI 網(wǎng)絡(luò)犯罪工具。網(wǎng)絡(luò)攻擊者利用 GAI 開發(fā)新工具，能夠?qū)崿F(xiàn)更快、更有效、更隱蔽的大規(guī)模網(wǎng)絡(luò)攻擊。

網(wǎng)絡(luò)攻擊對關(guān)鍵基礎(chǔ)設(shè)施的威脅最應(yīng)值得關(guān)注。惡意行為者可能利用 GAI 破壞或干擾與物聯(lián)網(wǎng)技術(shù)或物聯(lián)網(wǎng)工業(yè)系統(tǒng)相關(guān)的活動。物聯(lián)網(wǎng)技術(shù)、自動駕駛汽車、智能城市和相互連接的國家關(guān)鍵信息基礎(chǔ)設(shè)施的廣泛使用將暴露出大量安全漏洞。黑客可能會利用網(wǎng)絡(luò)攻擊幾乎不可見的特性，通過 GAI 和大數(shù)據(jù)分析來識別最脆弱的基礎(chǔ)設(shè)施，并選擇最佳時機(jī)發(fā)動最具災(zāi)難性的攻擊。如果 GAI 生成的有毒數(shù)據(jù)被傳遞到關(guān)鍵傳感器，可能會引發(fā)如服務(wù)中斷或系統(tǒng)關(guān)閉等下游影響。例如，核電站作為高度關(guān)鍵的基礎(chǔ)設(shè)施，一旦受到攻擊，可能會導(dǎo)致無法控制的核事故，造成巨大的危害。對于一些商業(yè)性的基礎(chǔ)設(shè)施而言，這一挑戰(zhàn)更加危險，因其不受政府控制，安全性可能較低，也更容易受到攻擊。

首先，模型復(fù)雜的內(nèi)部工作原理使得人類很難完全理解它們?nèi)绾巫龀瞿承Q定或預(yù)測，從而無法有效地控制系統(tǒng)行為，并確保它們遵守人類定義的道德原則。其次，大模型由人類提供的數(shù)據(jù)進(jìn)行訓(xùn)練，但人類在行動和決策中并不總是客觀和理性的，這可能導(dǎo)致偏見的產(chǎn)生。在有偏見或歧視性的數(shù)據(jù)上訓(xùn)練的 GAI 模型可能會在其輸出中延續(xù)甚至放大這些偏見，并在無意中向用戶傳播有害的行為和歧視性的做法，從而導(dǎo)致對個人或社會產(chǎn)生有害或不公正的結(jié)果。

除了從用于訓(xùn)練的數(shù)據(jù)中獲取偏見以外，不法分子還利用數(shù)據(jù)投毒使 GAI 生成一些缺乏真實(shí)性和正當(dāng)性的信息，以潛移默化地影響人們的思想觀念。例如，利用 GAI 制造和散布謠言，發(fā)布顛覆國家政權(quán)、煽動分裂、發(fā)動恐怖襲擊等危害國家安全的煽動性言論。在輿論爆炸式發(fā)展的當(dāng)代社會，這將嚴(yán)重影響社會治理。