AI 寫的程式安全嗎?45% 樣本沒過資安測試,老闆驗收前該看的 10 件事

研究顯示約 45% 的 AI 生成程式碼樣本無法通過 OWASP Top 10 資安測試,喬治亞理工的追蹤也發現 AI 相關漏洞在 2026 年快速增加。本文整理最常見的三類問題,以及不懂程式的老闆也能用的 10 項驗收檢查表與發包時該問廠商的問題。

現況:寫得快,不代表寫得安全

用 AI 寫程式已經是常態。不管是你自己用工具做出一個內部系統,還是外包廠商用 AI 加速交付,你手上的系統裡很可能都有 AI 產出的程式碼。這本身不是問題,問題是速度變快之後,檢查有沒有跟上。

Cloud Security Alliance(雲端安全聯盟)在 2026 年 4 月整理了一份研究筆記,引用的幾組數字值得所有發包方知道:

實際漏洞也在增加。喬治亞理工學院的 Vibe Security Radar 掃描了超過 4.3 萬則資安通報,確認 74 起與 AI 生成程式直接相關的案例,其中 14 起為重大等級、25 起為高風險;光是 2026 年 3 月就有 35 起,超過 2025 全年。科技新報報導這 74 起是截至 2026 年 3 月 20 日的數字,研究團隊估計實際數量可能是偵測到的 5 到 10 倍,因為工具只能辨認留有明確 AI 痕跡的程式。

最常見的三類問題

CSA 的筆記歸納,AI 生成程式的主要失誤集中在三處。它們有個共同點:程式跑得動、畫面看起來正常,問題要等有人刻意去試才會發現。

問題類型白話解釋可能的後果
授權邏輯錯誤登入之後,改一下網址上的編號就能看到別人的訂單客戶資料互相看得到
缺少存取控制資料庫或後台介面沒設權限,知道位址的人都能讀寫整個資料庫外洩或被竄改
寫死的金鑰與密碼把連線密碼、金流金鑰直接寫在程式裡,甚至放在前端第三方服務被盜用、產生費用或資料外流

喬治亞理工的追蹤另外點出三種技術類型:指令注入、驗證繞過、伺服器端請求偽造。對非技術背景的決策者來說,不需要記名詞,只要記得一件事:AI 擅長把功能做出來,但不會主動替你想「誰不該做這件事」。

驗收檢查表:不懂程式也能問的 10 件事

以下每一題都可以請廠商或內部工程師當場示範或提供證明。答不出來的項目,就是驗收前要補的。

權限與資料

  1. 用 A 帳號登入,能不能看到 B 的資料?請對方當場換編號示範。
  2. 沒登入的人,能不能直接打開後台網址或資料介面?
  3. 一般使用者與管理者的功能有沒有分開?一般帳號能不能執行刪除、匯出、改價這類動作。
  4. 資料庫是否只允許系統本身連線?不該讓外部直接連。

金鑰與設定

  1. 程式碼裡有沒有密碼或金鑰?請對方提供金鑰掃描工具的結果。
  2. 測試用的帳號、預設密碼與除錯功能,上線前關了沒?

相依套件

  1. 用了哪些第三方套件?請對方提供清單,並說明有沒有做過弱點掃描。
  2. 清單上有沒有來路不明、下載量極低或剛註冊的套件?這是 AI 幻覺套件的典型特徵。

流程

  1. AI 產出的程式有沒有人看過?登入、付款、權限、對外介面這幾塊,是否由有資安經驗的人審查。
  2. 上線前有沒有自動化的資安掃描?是每次更新都跑,還是只跑過一次。

喬治亞理工研究人員的建議很實際:把 AI 產出的程式當成新進工程師交上來的作業來審查。它可能寫得很好,但不能因為看起來很好就直接上線。

發包時該問廠商的問題

CSA 建議企業更新對供應商的提問,把「系統是否由 AI 生成」納入。這不是要排斥 AI,而是確認對方有對應的把關流程。簽約前可以直接問:

挑廠商的完整評估方式見 軟體開發公司評估指標;AI 對開發成本與品質的影響,見 AI 輔助開發成本解析。

系統已經上線了怎麼辦

如果你手上的系統是用 AI 工具快速做出來、而且沒經過上面的檢查,建議依序處理:

  1. 先掃金鑰:這是最快、也最可能立刻被利用的問題。發現外露就立即更換。
  2. 檢查資料庫的存取設定:確認不是任何人都能讀寫。
  3. 測一輪權限:用不同角色的帳號互相試。
  4. 盤點套件並更新。

若系統已經有實際客戶資料,值得請第三方做一次完整檢測。系統問題太多、原廠商又無法處理時,可以參考 外包系統接手決策指南評估修補或重構;日常的基本防護則見 中小企業資安檢查清單。

下一步

AI 讓做出一個能動的系統變便宜了,但讓它安全的成本沒有跟著消失,只是從「寫」移到了「審」。驗收時多問這 10 題,比上線後處理一次資料外洩便宜得多。

易飛特在開發中使用 AI 輔助,同時把權限設計、金鑰管理與上線前檢查列為固定流程,也協助企業檢視既有系統。帶著你的系統或驗收文件來 30 分鐘免費諮詢(NDA 保密),我們幫你看出該先補哪幾項。

資料來源

常見問題

AI 寫的程式是不是比人寫的更不安全?

現有研究沒有辦法直接下這個結論。可以確定的是,Veracode 的測試中約 45% 的 AI 生成樣本無法通過 OWASP Top 10 資安測試,而且這個比例沒有隨模型世代改善。實務上的差別在於速度:AI 讓程式產出變快,如果審查與測試沒有同步加強,未經檢查就上線的程式會變多。

我不懂程式,怎麼驗收資安?

不需要看程式碼,請對方當場示範與提供證明即可。例如用兩個不同帳號互相查看資料、在沒登入的狀態下開後台網址、提供金鑰掃描與弱點掃描的結果、列出使用的第三方套件。對方答不出來或拒絕示範的項目,就是驗收前要補的。

什麼是 slopsquatting?跟我有什麼關係?

AI 有時會建議使用實際上不存在的套件名稱。攻擊者發現這些常被 AI 編出來的名稱後,搶先註冊同名套件並放入惡意程式,開發者照 AI 建議安裝就中招。一項分析 57.6 萬份樣本的研究發現,AI 建議的相依套件有 19.7% 不存在。防範方式是安裝前確認套件確實存在、來源可信、有合理的發布歷史。

用 AI 工具自己做的內部小系統,也要這麼嚴格嗎?

看它碰到什麼資料。只在公司內部使用、不含個資或財務資料的小工具,風險相對低。只要系統放在網路上、存有客戶資料,或接了金流與其他系統,至少要做完金鑰掃描、資料庫存取設定與權限測試這三項。

先帶一個最卡的流程來聊

不用先準備完整規格。30 分鐘初談會先釐清問題、資料與預期成果,所有專案構想皆依 NDA 原則保密。

預約 30 分鐘初談