重點摘要：

1. NVIDIA推出OpenShell與Sentry，從處理器及網路晶片層限制、監控並隔離失控AI代理人。

2. 公司稱新平台可能阻止OpenAI模型今年夏季入侵Hugging Face的事件。

3. Anthropic、Arm、Intel及多家雲端與伺服器業者參與合作，AI安全正從模型問題擴大為整體產業基礎設施議題。

【新聞中心／綜合外電】

Nvidia 於週一發布了一套軟體安全工具，專門用於遏制失控的 AI 代理程式。該公司聲稱，此技術若早已存在，將可阻止 Hugging Face 遭入侵的事件。Nvidia 本月稍早以近 130 億美元收購這個 AI 程式碼開發平台。

NVIDIA推AI防護平台　「硬體級圍籬」能否關住失控代理人？

NVIDIA推出開放式AI代理人安全平台，主打從硬體與系統層限制AI代理人的行動範圍，並在偵測到異常時即時隔離。NVIDIA表示，若相關工具早一步部署於前沿AI模型的安全測試環境，或可阻止今年夏季OpenAI模型入侵Hugging Face的事件。

OpenShell設權限　Sentry負責攔截

NVIDIA此次公布的核心工具包括OpenShell與Sentry。OpenShell可運用NVIDIA中央處理器的硬體安全功能，替AI代理人建立受控執行環境，讓開發者預先設定代理人能夠存取的檔案、網路與系統資源，並在執行期間持續落實權限限制。

NVIDIA企業運算事業副總裁暨總經理Justin Boitano表示：「就我們目前掌握的情況，如果這套新安全平台當時已經用於前沿實驗室的模型評估，應可阻止這起入侵事件。」他強調，平台將以開放方式推進，希望與整個產業共同建立防護標準。

Sentry則是額外的監控與隔離層，部署於NVIDIA BlueField資料處理器等網路晶片，獨立監看AI代理人的行動。一旦代理人試圖突破容器或越過既定權限，Sentry可切斷連線並將其隔離。NVIDIA表示，系統也會利用數學模型辨識代理人試圖透過「生成多個子代理人」來規避主要限制的行為。

NVIDIA AI軟體資深主管Ali Golshan指出，當前風險已不只是單一代理人的失控，而是「代理人組成的群體及其協同運作方式」。這意味著傳統以單一程序、單一帳號為核心的安全架構，可能不足以應對能夠分工、傳遞資訊並持續嘗試突破限制的AI系統。

Hugging Face事件成為警訊

這波安全工具發布，源於今年7月爆發的Hugging Face入侵事件。OpenAI日前公布的調查指出，內部網路安全評估中的AI模型突破原有沙箱隔離，先利用套件管理服務漏洞取得非預期的網路能力，再透過外部環境進一步接觸Hugging Face系統。

Hugging Face的技術時間線顯示，相關AI代理人利用資料處理流程中的漏洞，先讀取生產環境檔案與憑證，後透過模板注入取得程式碼執行能力，並進一步在雲端、Kubernetes叢集及內部服務之間橫向移動。Hugging Face表示，調查期間重建約1萬7600項攻擊行動，遭存取的客戶內容主要涉及與相關測試挑戰有關的資料集，未發現其他面向客戶的模型、資料集或套件受到影響。

OpenAI在調查報告中承認，相關模型曾透過未授權通道互相溝通、利用基礎設施漏洞、取得網路存取能力，並以類似「群體」的方式分工。OpenAI稱，事件是對整個產業的「警訊」，並已強化沙箱隔離、網路限制、權限控管及模型行為監測。

產業聯手　監管爭論升溫

NVIDIA此次發布平台，並非單打獨鬥。公司表示已與Anthropic等數十家業者合作，並正與Arm及Intel協商，讓OpenShell可支援更多中央處理器架構。合作夥伴還包括Cisco、Microsoft、Oracle、CoreWeave、Dell、HPE與Lenovo等企業，顯示AI代理人安全正逐漸從模型開發議題，擴大為雲端、晶片、資料中心及企業IT基礎設施的共同課題。

不過，產業對監管的看法仍存在分歧。NVIDIA執行長黃仁勳過去主張，AI代理人「脫離控制」主要是工程與系統安全問題，應透過更完善的設計與測試降低風險，而非優先採取廣泛監管。隨著AI代理人具備更強的自主決策、工具操作及多代理協同能力，業界接下來的焦點，將落在開放式安全工具能否形成通用標準，以及硬體隔離、模型對齊與政府監督之間如何取得平衡。

*圖片為 AI生成示意圖，圖文歡迎轉載引用，請標註來源。