技術 DD 資料室

00執行摘要

多台地端 Jetson AGX Thor 逐張讀取臺中市 356 路公開路口影像，用 YOLO26 偵測城市變化事件、用 Qwen3.8-27B 依排程產生情境摘要，只把指標與事件上傳雲端；雲端提供監控後台、城市儀表與 AI 語音答詢。 不新增鏡頭、不回傳影像、不辨識任何人。

成熟度定位

已具備：在真實硬體、真實城市資料上跑通的完整原型。資料是真的（356 路市府開放資料、座標 100% 實際經緯度）、分析是真的（YOLO26 逐幀偵測＋ Qwen3.8 繁中摘要）、三個介面讀同一份即時資料、驗收可重現（一行指令跑 42 項）。

尚未具備營運資格：無版本控管與 CI、無單元測試、雲端以 SQLite 取代 TimescaleDB、讀取 API 未加使用者認證、模型準確度（mAP）未以標註資料集驗證。

五項重大發現

投資決策要點

技術上已證明可行：單台 US$5,499 等級裝置即可覆蓋全市 356 路 1 張／秒即時分析， GPU 仍有餘裕同機跑 27B 參數的視覺語言模型，且不需新增任何攝影機或改動市府既有系統。

主要不確定性：① AGPL 授權成本未定價 ② 準確度未量化（無標註資料集） ③ 上游 NVR 服務品質不可控（356 條連線、約 640 Mbps 進流）。建議以四週補強計畫收斂（見「風險與技術債」）。

01系統架構與技術棧

三個平台、22 個 REST 端點、1 個 WebSocket；邊緣只回傳指標，雲端從未取得未模糊影像。

技術選型與理由

平台一模組（3,054 行）

資料模型與成長率

02效能與容量

全部為 Jetson AGX Thor 實機量測（vLLM 同機共用 GPU），非估算值。

推論吞吐：模型與解析度

獨占 GPU、batch 32；標橘色者為目前生產設定。精簡推論路徑在同一負載下較 ultralytics predict() 快 2.8 倍。

瓶頸：Python GIL 而非 GPU

擴充公式（由實測導出）：
所需行程數 = ceil(路數 × 取樣率 ÷ 160)，每台 Thor 承載 2 個行程（GPU 約 97%）。

三個平台特有的坑（已記錄於程式註解）：
① Thor 的 cuDNN 無 fp16 卷積 engine，需關閉 cuDNN 走 ATen 核心
② ultralytics 逐張 Python 開銷受 GIL 限制，需自製精簡推論路徑
③ Thor 無 GPU 使用率欄位，以 VDD_GPU 電軌功耗估算並標註

容量試算器

相機路數：356 路

取樣率：1.0 張／秒／路

單行程吞吐：160 張／秒（實測 157～185）導入 TensorRT INT8 可推估提升 3～4 倍

硬體成本以規格書單價（Thor 18 萬＋週邊 2 萬／台）計；上游進流以每路 1.8 Mbps MJPEG 計；雲端資料量以實測每路每日 0.326 MB 計。

取像、VLM 與雲端 API

03授權與智財

相依套件、模型、容器、資料來源的授權盤點。最重要的未決事項在本節第一段。

重大發現：YOLO26／Ultralytics 為 AGPL-3.0（套件 metadata 實查： ultralytics 8.4.157、ultralytics-thop 2.1.6），且模型權重同受該授權約束。以網路服務形式對外提供含 AGPL 元件的軟體，可能被要求公開整套衍生原始碼。

三種處理方案

建議：先取得企業授權報價作為基準，同時以一週驗證方案 B （偵測器介面集中在 detector.py 單一模組，替換面小）。授權定案前不宜對非內部使用者提供服務。

相依套件授權盤點

04資安與隱私

隱私主張每一項都有可查證的端點或計數器；資安缺口逐項標示補強成本。

隱私設計與即時佐證

網路暴露面（實測）

資安缺口與補強

補強總量：約 2 天可完成 S1～S6（反向代理＋ TLS ＋存取控制＋ CORS 限制＋速率限制），之後對外僅暴露 443。

05程式碼品質與驗收證據

約 8,500 行、71 個原始檔；42 項自動驗收＋ 4 項中斷式驗收，全部可重現。

中斷式驗收（實際停服務測試）

自動驗收逐項結果

測試缺口

06營運部署與可觀測性

六個服務、四條告警規則、八種故障模式的實測復原時間。

故障模式與實測復原

可觀測性介面

上線前營運待辦

07風險登錄與技術債

18 項風險依機率×影響定位；點選矩陣中的編號可看細節。

風險矩陣

點選矩陣中的風險編號查看細節。

風險登錄

技術債與償還順序

08成本與擴充規劃

硬體單價引用規格書；「待報價」為本次 DD 未取得的數字，不以推估充當實測。

一次性建置（單站 356 路）

擴充試算

成本亮點：全市 356 路即時分析在單台 US$5,499 等級裝置完成， 27B 視覺語言模型同機執行、無 API 費用。最大成本槓桿是 TensorRT INT8（3～5 天工程，估可把台數需求降至 1/3～1/4）。

擴充的真正瓶頸

上游 NVR 承載：每支相機一條連線、約 1.8 Mbps；1,000 路即 1.8 Gbps，需與資料提供方確認。
網關水平擴充：目前單一實例，擴充時需每台 Thor 各自部署網關。
雲端資料層：超過每秒數十列寫入即應換 TimescaleDB。