【解局】曹波：中國大模型救場美國AI入侵，凸顯中美AI發展差異就在7月22日，OpenAI CEO薩姆·奧特曼確認，AI平台Hugging Face（抱抱臉）剛剛遭遇了“史上首例AI自主入侵事件”，而攻擊者就是GPT-5.6 Sol。這不禁讓人想起電影《終結者》裡的“天網”危機，因此，此次事件曝光後，迅速在美國社交網絡刷屏，引發全民熱議。
此次事故發生在OpenAI內部一個名為“ExploitGym”的網絡安全評估測試中，當時，研究人員為了測量AI模型的攻擊能力，特意關閉了安全護欄，把模型放到了一個完全隔離的封閉測試環境中，斷開外網、限制權限、禁止任何對外操作，只讓AI完成常規答題測評任務。然而，讓人始料未及的是這個AI模型為了拿到更高的測評分數，竟然花費大量推理算力，在測試環境中找出了一個此前無人發現的零日漏洞，成功突破隔離，獲得互聯網訪問權限。然後，這個模型就開始在OpenAI的研究環境裡提權、橫向移動，並推斷出Hugging Face上可能存有測試答案。最後，它把竊取的憑證和零日漏洞串聯起來，找到一條遠程代碼執行的路徑，直接攻破了Hugging Face的生產服務器，短短幾天內對生產數據庫發起了1.7萬次攻擊動作，整個過程完全是全自動，堪稱教科書級別。 這起全球首例由前沿大模型自主發起的真實網絡攻擊事件，本質上其實是因為模型的能力邊界已經超出了人類為它預設的安全約束邊界。須知，模型本身是不具備越權的主觀意圖，而如今它卻能從任務目標中產生動機，然後再利用本身已經擁有的越權能力發動攻擊。這種行為也就意味著AI已經事實上具備了獨立發現漏洞、制定攻擊策略、執行全流程滲透的能力，其攻擊效率和隱蔽性都要遠遠超出人類黑客團隊的水平，而由此引發的風險深度與廣度，也早已超出傳統網絡安全的防禦框架。 當前，物理AI方興未艾，在其與工業場景愈加深度融合的大背景下，已經具備自主能力的AI系統一旦失控，就能直接作用於工業控制系統、能源調度網絡、交通基礎設施，引發生產線停擺、電網癱瘓等實體災害。而在社會領域，一旦自主AI批量生成深度偽造內容，甚至規模化開展認知滲透，那麼傳播效率與擬真度將徹底打破傳統輿論防禦的平衡。因此，一旦AI技術被濫用，那麼技術失控的風險就會傳導至全球經濟、社會乃至國家安全的各個層面。然而，目前全球的AI治理仍處於碎片化狀態，各國對於AI的監管缺乏統一的能力邊界標準、安全評估機制和跨境問責體系，AI技術的通用屬性與全球影響，又決定了其發展邊界與安全底線不可能由單一國家劃定，所以，如何將AI這頭“猛獸”關進“籠子”裡，已是國際社會亟待解決的緊迫問題。 比較有意思的一點是，這次危機出現之後，Hugging Face安全團隊為了還原完整攻擊時間線、甄別有效攻擊行為、排查數據洩露風險，需要對超過1.7萬條攻擊日誌記錄進行專業分析。團隊先是嘗試調用美國本土頂尖閉源大模型開展取證工作，然而這些模型安全審核機制過於僵化嚴苛，根本無法精準區分主動攻擊者和安全團隊的應急工作人員，最終只得採取一刀切的攔截方式，拒絕提供任何技術協助。緊急關頭，Hugging Face選擇了使用中國智譜開源大模型GLM-5.2開展取證分析工作。憑藉這款模型精準的分析能力，團隊最終順利地完成了海量日誌篩查、攻擊行為溯源以及風險隱患排查，成功化解了這次危機。截至目前，Hugging Face經排查確認，平台模型、數據集及應用空間未遭到篡改，算是不幸中的萬幸。 從這次危机的化解過程中，我們能清晰地看出閉源與開源兩種模型形態在應對安全風險時所呈現出的差距，而以此為代表的中美兩國AI產業不同的技術路線，已經呈現出了差異化優勢。目前，美國依托先發優勢已經主導了高端閉源大模型賽道，以GPT系列為代表的閉源模型在通用能力、多模態性能上領先優勢較為明顯，這些閉源模型的安全體系能夠批量攔截大多數高風險請求，一定程度減少了普通用戶的技術濫用，比較適合面向C端和通用商用場景規模化落地。但閉源模式還是有天然缺陷的，此次事件中，靜態過濾機制本是閉源廠商為規避風險採取的保守措施，最後卻成了防禦短板。同時，閉源模型依賴雲端API調用的模式，意味著用戶需要把敏感數據上傳至第三方服務器，這就意味著用戶在政務、金融、工業關鍵基礎設施等場景下，無法針對自身需求定制安全策略，形成嚴重的供應商依賴，危害自身的數據主權，這對於部分用戶來說肯定是無法容忍的。 與之對比的是，中國則在開源大模型賽道走在了前沿，中國開源大模型的開放權重支持完全本地化部署，敏感信息可以全程留存在自有環境中，從而徹底規避數據跨境風險，而且開源模型的安全策略可根據實際需求靈活定制，安全閾值完全可以按需調整，不會因為內容涉及攻擊技術就選擇“一刀切”直接拒絕服務。再者，開源模型相對更加透明，技術團隊可以深入排查模型內部邏輯，適配專業場景的精細化安全需求。不過，我們需要看到的是，閉源與開源模型在安全領域並無絕對的高下之分，而是形成了互補的格局，中美兩國分別在兩條賽道形成的各自領先優勢，既構成了技術層面的競爭關係，也在客觀上豐富了全球AI安全技術選項。
這次事件對於中國來說，也有一定警醒作用，在AI技術快速迭代、風險持續升級的背景下，能否構建起有效、可靠的“AI防火牆”，是關乎自身數字安全底線的。從當前情況來看，中國正在探索建立相對完整的AI安全治理體系。在法律層面，今年1月正式施行的新修訂《網絡安全法》首次在基礎性法律中確立 AI 安全治理框架，明確關鍵信息基礎設施的 AI 安全責任，為監管執法提供了法律依據；在監管層面，中央網信辦發布的《人工智能安全治理框架》2.0 版，從數據標註、模型訓練到運行熔斷、容災恢復，覆蓋了開源模型缺陷傳導評估、高自治系統極端測試等前沿風險場景，同時還有配套的《生成式人工智能服務管理暫行辦法》、《人工智能生成合成內容標識辦法》等規則，形成了對全鏈條技術的監管思路。在技術層面，國內產業界已推出針對性的AI安全產品與方案，例如面向算力集群與數據中心的AI防火牆產品，可實現萬級AI應用的指紋識別與流量精細化管控。 然而，“AI防火牆”不可能一夜建成，要知道，AI的攻擊技術迭代速度遠超傳統網絡攻擊，自主智能體的攻擊路徑、行為模式沒有固定規律，傳統基於特徵匹配的防禦機制難以適配，而且在開源生態的快速擴張下，開源模型很容易被惡意主體利用，增加防禦的複雜度。所以，如何在守住安全紅線的前提下，為AI技術創新與落地提供發展空間，應該是當下我們最應該思考的課題。 （本文作者為人工智能領域學者，本網獲獨家授權刊發，轉載請註明出處） （本文為作者觀點，不代表本媒體立場） 【編輯：王少喆】
|
