為什麼我要打造邊緣智能技術棧
AI 的重心放錯了地方 打開科技新聞，滿屏都是雲端 AI 的故事。更大的 GPU 叢集、更多的訓練資料、更貴的 API 呼叫。好像智能只能住在遙遠的資料中心裡，隨傳隨到——只要你有夠好的網路。 但真實世界不是這樣運作的。 工廠裡的產線攝影機，需要在毫秒內判斷瑕疵品。車上的感測器，不能等雲端回傳結果才決定煞車。偏遠農場的環境監測站，連穩定的 4G 訊號都不一定有。這些場景——工廠、攝影機、感測器、車輛——才是真實世界的骨幹。而它們全都在「邊緣」。 延遲、隱私、頻寬成本，每一個面向都指向同一個結論：智能必須搬到邊緣。 我在 Ubiquiti 待了十四年，親手打造邊緣產品。UniFi 攝影機上跑 on-device AI、三千萬台受管裝置遍布全球——這個經歷讓我極其清楚地看到這道鴻溝：雲端的 AI 飛速進步，但邊緣裝置還活在上個世代。它們大多只是把資料往上丟的「笨管道」，智能完全仰賴雲端。 這不對。 邊緣裝置需要三件事 我花了很長時間在想，到底缺什麼？最後歸結出三個核心需求： 1. 原生智能（Native Intelligence） 裝置本身就要能跑 AI 推論。不是「雲端掛了就變磚」的那種依附式智能，而是真正在晶片上執行模型、處理感測資料、即時做出決策的能力。斷網也能動。 2. 安全連線（Secure Connectivity） 邊緣裝置彼此之間、以及跟管理端之間，需要真正安全的通訊。不只是今天安全——在量子電腦成熟之後依然安全。後量子時代的加密不是未來式，它是現在進行式。 3. 開發者友善的工具鏈（Developer-Friendly Tooling） 讓 AI agent 能直接跟硬體互動的工具。不是要開發者自己寫一堆 glue code 把東西串起來，而是提供乾淨的協定介面，讓 AI 可以直接控制嵌入式裝置——燒錄、除錯、讀取感測器。 這三件事缺一不可。有智能但不安全，等於門戶洞開。有安全但沒智能，就只是加密過的笨管道。有前兩者但工具鏈爛到沒人想用，那一切都只是實驗室裡的 demo。 我正在打造的技術棧 這不是一個專案，而是五個專案，每一個解決一塊拼圖，合在一起構成完整的邊緣智能系統。 AI-HIL MCP — AI 碰觸實體世界的介面 五個 MCP server，讓 AI agent 能直接控制嵌入式硬體：燒錄韌體、啟動除錯器、讀取感測器數據。這是 AI 從「只能看螢幕上的文字」進化到「能碰到實體世界」的那一步。我在前一篇文章裡寫過這個想法的起源——消除人類在 AI 跟硬體之間充當「人肉資料管道」的角色。 Engram — 邊緣 ML 推論平台 吃進感測器資料、跑模型、吐出結果。這是邊緣裝置的「大腦」。不需要雲端 GPU，在本地就能完成推論。目標是讓每一個邊緣節點都有自己思考的能力。 ...