加载失败
討論源自對「Verification debt: the hidden cost of AI-generated code」這一問題的反思：AI 讓編碼速度大幅提升，但同時把瓶頸轉移到驗證與信任上。評論引用多種模型與工具（如 GPT‑4.1、Sonnet 3.5、Anthropic 的 Claude（大型語言模型）、Google 的 Gemini（含 Deep Research 功能）），並舉出實例：AI 寫書出現偽造引注、承包商提交數千行生成代碼伴隨無效測試、以及 Postman（API 請求管理工具）導致上下文混淆的錯誤。應對方向涵蓋在 PR 中附規格、強化單元/全棧測試、linters 與靜態分析、加強 observability（觀測）與 AI 驅動審查，以及自動化測試工具（例如 Spark Runner，一個用於自動化 web 應用測試的開源項目）。討論同時觸及招聘、組織流程與可能的監管介入，因為人因錯用與政治資金可能影響實際治理成效。
討論核心是信任：多位評論者指出模型在短、明確任務上表現良好，但在長會話或複雜上下文中會失去脈絡導致錯誤。有實例說明 GPT‑4.1 和 Sonnet 3.5 在長 Cursor session 中會 "lose the plot"，而在更好的模型與 harness（例如 Claude Code）下信任度才顯著提升，但仍需人在開始前審查計劃並在完成後跑邊緣案例。大多數人採取的是行為驗證（behavioural verification）：通過 QA、邊緣情況的測試、以及足夠的測試覆蓋來判斷代碼是否按預期運行，而非單純看生成過程的內部證明。總結來說，即便對某些模型更有信心，評論普遍認為還不能完全移除 human‑in‑the‑loop，生成後的實測與審查仍不可少。
多人認為應透過流程與工具把驗證變成可測且快速的步驟：建議包括在 PR 中附上明確 spec、把變更切塊（chunk PR）、並倚重 linters、formatters、靜態分析、單元測試與全棧測試等確定性驗證手段。討論還提出 AI 驅動的審查工具（例如 greptile、bugbot 類別）和更強的 observability（觀測）以便在生產中快速定位與修復問題。評論也指出現實障礙：許多 PR 連基本的驗證都沒做，敏捷文化下的口頭傳達與缺失的內聯文件會妨礙把變更寫成易於驗證的規格，單元測試本身也有局限，需補充模擬/仿真與自動化測試框架（有人在做像 Spark Runner 這類針對 web 應用測試的工具）。若把這些流程與工具徹底做好，理論上能大幅降低人工審查成本並更快接受 AI 產出。
[来源1] [来源2] [来源3] [来源4] [来源5] [来源6]
評論用非程式碼例子說明模型會自信地捏造事實或引用：一個實驗讓 Claude Cowork 寫 Paolo Sarpi 的傳記，雖有腳注與引用，但作者仍需逐條查證；用 Gemini Deep Research 進行二次確認時仍擔心兩個模型可能互相印證錯誤結果。真實案例還包括 Gemini 為一名親屬虛構了完整、吸引人的敘事，或編造論文引用與付費論文內容，顯示模型會在缺乏來源時憑空生成細節。評論因此警告，AI 在面對付費或受限來源時容易放大錯誤，導致驗證成本劇增且容易誤導非專家讀者或工程師。
許多評論把 AI 產生但未充分驗證的代碼看作是一種迅速膨脹的技術債：比起傳統技術債其複利更高、到期更快，因此稱為 verification debt。實務上 PoC（概念驗證）一旦被快速生成卻沒有後續重構或清理，常會演變成“夠用就行”的永久方案，AI 只會增加這類暫時性代碼的數量。有人把生成代碼比作隨便安裝的一個隨機套件：短期看似可用，但缺乏在野外長期驗證、社群維護與持續修復的保障，長期維護成本會高於手工打造的關鍵模組。總結：若不把百分比資源投入驗證與重工，AI 快速產出會把短期贏利轉化為未來更大負擔。
多條評論以承包商真實案例警告人因風險：承包商每日提交數千行 PR（如 3800 行 shell、2000+ 行重構），但無法解釋系統、測試名不符實，顯示一些人把 LLM 當成全自動替代而非輔助工具。評論還批評現行招聘與面試導致缺乏系統性思維與代碼閱讀能力（例如 leetcode 導向的面試文化），使得團隊更難發現或修正 AI 產出的問題。另有論點認為若 AI 被草率應用、造成大規模傷害，監管將不可避免地介入；但也有人懷疑政治與資金會影響監管效果。總體來看，除了技術解法外，治理、招聘與監督流程也必須同步升級。
verification debt（验证债）: 由 AI 快速生成大量代碼後產生的驗證與維護負擔：這類債務源於未充分測試、審查或重構的產出，複利高且到期快，會在未來造成更高維護成本。
LLM（Large Language Model，大型语言模型）: 像 GPT‑4.1、Claude、Gemini 等以大量文本訓練的模型，能生成自然語言與程式碼，但在細節與事實層面會出現不可靠或自信的錯誤。
hallucination（AI 幻觉）: 指模型自信地捏造不存在的事實、引用或代碼邏輯（例如虛構引文、錯誤 API 行為），需要人工或第二來源驗證才能發現。
PR（Pull Request）: 用於提交與審查程式碼變更的單位；評論建議在 PR 中附上明確 spec、切小變更、並加入易於驗證的測試以降低合併風險。
technical debt（技术债）: 傳統指以快速交付換取未來更高維護成本的設計或實作缺陷，在本討論中被用來對照 verification debt 的更快複利與更短到期時間。
PoC（proof of concept，概念验证）: 快速驗證想法或原型的暫時性方案；評論指出 PoC 常被 AI 快速生成且很少被徹底重構，容易成為長期技術債來源。