業界領袖攜手成立開放安全AI聯盟 NVIDIA等大廠共同推動AI的安全與保障

NVIDIA 2026-01.jpg

開源軟體是全球經濟的重要支柱。透過讓專家社群得以存取與檢視相關技術,開源軟體可為雲端運算、金融服務、製造、電信、政府與網際網路服務提供堅實的基礎。資安是開源軟體的三大受益領域之一。開放安全人工智慧(AI)聯盟(Open Secure AI Alliance)承襲Linux Foundation的Akrites計畫領導成果與OpenSSF社群工作,將運用開放技術修復並揭露漏洞。

迎向AI時代的防禦挑戰

正如開源技術為軟體建立共享基礎,美國及其合作夥伴如今在AI安全面臨一項選擇:用於保護基礎設施的防禦能力,究竟該置於少數不透明的系統之中,還是要建立在任何防禦人員都能研究、調整與部署的開放模型、執行框架與工具之上。全球同時需要封閉與開放的模型。在資安領域,開放模型與開放的harness至關重要,因為它們能普及防禦能力、提高防禦人員的透明度、在保護資料的同時支援網路防禦,並透過可客製化、在地化的控制機制,與前沿的封閉模型相輔相成。開源技術可建立大規模分散式、社群驅動且自主掌控的防禦體系,且不存在單點故障。

真實案例與聯盟使命

如同任何強大的技術,開放模型也可能遭到濫用,包括企圖削弱防護機制,或將其能力轉用於網路攻擊。然而,這些風險並非開放系統所獨有,而是所有部署先進AI的環境都必須加以管理。近期發生的Hugging Face資安事件帶來明確提醒:資安防禦人員需要開放且前沿的代理型系統進行自我防禦。當封閉AI工具無法區分攻擊者與防禦人員,因而阻擋必要的鑑識分析時,Hugging Face便在其自有基礎設施上執行開放權重GLM 5.2模型,分析超過17,000項操作並遏止入侵。這起事件揭示一個現實真相:當防禦人員無法在自有基礎設施上檢視、調整與執行先進AI時,在分秒及爭的關鍵時刻,其應變能力會受到限制。這正是開放安全AI聯盟的使命:確保各地防禦人員都能擁有值得信賴且可自主掌控的開放前沿工具。

首批合作夥伴與技術貢獻

來自雲端運算、資安、企業軟體、開源基金會與AI研究領域的領導者,包括NVIDIA、Adobe、Cadence、Capital One、思科、Cloudera、Cloudflare、Cognition、CrowdStrike、Databricks、戴爾科技集團、DoorDash、Elastic、慧與科技、Hugging Face、IBM、LangChain、Linux Foundation、微軟、NAVER、NetApp、Nous Research、OpenClaw、Palantir、Palo Alto Networks、Red Hat、Reflection AI、Salesforce、SAP、SK Telecom、ServiceNow、西門子、Snowflake、SpaceXAI、新思科技、Thinking Machines Lab與TrendAI,皆為開放安全AI聯盟的首批合作夥伴。NVIDIA正為開放安全AI聯盟貢獻開放模型、模型權重、資料,以及全新的代理harness研究,以加速開發全新資安工具與技術。全新的開源專案NVIDIA Labs Object-Oriented Agent(NOOA)現已於GitHub上線,讓代理harness更容易運用先進AI安全功能。

政策呼籲與未來展望

在政策制定者與監管機構致力於解決AI安全議題時,至關重要的是必須在AI與資安政策中,將開放模型、harness與安全工具視為防禦資產,而非風險負擔。若一概限制開放前沿AI系統,將削弱防禦能力,並可能導致權力、依賴與脆弱性集中於少數封閉式供應商。開放安全AI聯盟邀請各國政府、業界與研究人員加入,一同守護AI時代。

玩家總結

NVIDIA攜手全球多位業界領袖正式成立「開放安全AI聯盟」,旨在整合各界資源推動AI的安全與保障。聯盟強調開放模型與開源工具在資安防禦上的關鍵角色,並透過實際技術貢獻與開源專案(如NVIDIA NOOA),協助防禦人員在面對複雜的AI時代時,能擁有值得信賴且自主掌控的防禦工具,共同建構更具韌性的數位未來。

延伸閱讀:
Whoscall來電辨識大賞名單揭曉!「一接就掛吃飽太閒」要接嗎?Threads文吸引52萬人朝聖
剛剛好的甜!「空服員的手作甜點」溫潤茶香擄獲爸爸味蕾、限時88折優惠歡慶父親節
探索城市與自然!Lexus車主騎聚日啟動全台騎乘體驗、現正開放報名中
《VIVANT》續集揭曉「紅饅頭」謎底!堺雅人挑戰10國語言、攜原班陣容遠赴亞塞拜然拍攝