總覽

OWASP「大型語言模型應用程式 Top 10」2025 年版。選一條風險閱讀——所有頁面共用導覽、語言與主題。

10風險類別

2025版本年份

106引用來源

專案負責團隊的話，以及本版的關鍵變動。

使用者提供的提示能以意料之外的方式改變 LLM 的行為或輸出，即使內容對人類並不明顯可見。

LLM 可能透過輸出暴露個人可識別資訊、專有演算法或機密商業資料，導致隱私侵害與智慧財產權洩漏。

LLM 供應鏈的訓練資料、第三方模型、adapter 與部署平台易遭竄改與投毒，影響完整性。

操控預訓練、微調或嵌入階段的資料以引入漏洞、後門或偏見，危及模型的完整性與輸出。

在將 LLM 輸出傳遞至下游前缺乏足夠的驗證與淨化，可能引發 XSS、SQL Injection、SSRF 或遠端程式碼執行。

賦予 LLM 系統過多的功能、權限或自主性，使其在意料之外或被操縱的輸出下執行破壞性行為。

系統提示可能不慎洩露敏感資料或控管邏輯,使攻擊者得以擷取並利用,進而發動其他攻擊。

RAG 系統中向量與嵌入的生成、儲存或擷取若存在弱點,可被利用以注入有害內容、操控輸出或洩漏敏感資訊。

LLM 產生看似可信卻錯誤或具誤導性的內容，常源於幻覺，導致安全缺口、商譽受損與法律訴訟。

使用者不受控地大量進行 LLM 推論，導致服務阻斷、經濟損失、模型竊取與服務劣化等風險。