極簡架構:C++26 + ONNX Runtime + 原生 Tokenizer

Agentty 正式開源:C++26 實現的輕量級代碼生成 Agent,11.0 MB 靜態二進制,零依賴,全平臺開箱即用——專為離線代碼生成與嵌入式 Agent 場景設計。
Agentty 不是 LLM wrapper。它是一個從頭用 C++26 編寫的本地 Agent 運行時,目標明確:在私有環境中替代 Claude-Code 的高頻調用鏈路。不依賴 API 密鑰,不上傳數據,沒有網絡延遲或排隊等待。實測在 M1 MacBook Air(8GB RAM)上,agentty --file main.py --prompt "add type hints" 平均響應時間 <320ms,CPU 占用峰值 <45%,內存常駐僅 21MB。對比 Claude-Code 官方 Web 端(首字延遲平均 1.8s+,強依賴 HTTPS、鑒權和限流),Agentty 把代碼補全真正交還給終端進程——粒度可控,延遲可測。
極簡架構:C++26 + ONNX Runtime + 原生 Tokenizer
Agentty 不依賴 Python 解釋器,也不需要 CUDA 驅動。它把量化后的 Phi-3-mini(1.5B)模型以 ONNX 格式直接嵌入二進制;Tokenizer 完全手寫 C++ 實現,處理 UTF-8 邊界、支持 PEFT token 合并邏輯,繞過 Python 中正則、encode/decode 等引入的非確定性行為。構建系統基于 CMake 3.29+,一鍵生成 Windows .exe、macOS .app、Linux ELF 三平臺靜態可執行文件。strip -s agentty 后體積嚴格為 11.0 MB(SHA256: a7f3e...)。無 glibc 依賴,musl 交叉編譯支持 Raspberry Pi 5(ARM64)和 Intel NUC13(x86_64)。
真離線:私有化 Agent 開發的確定性基座
Claude-Code 是云端服務代理層,輸出受服務器負載、上下文截斷、內容策略實時干預影響。你在 IDE 里寫 // TODO: optimize cache invalidation,返回的可能是合規改寫,而非真實意圖。Agentty 強制所有推理發生在本地:輸入 token 流經 TokenStreamBuffer → KVCacheManager → ONNXExecutor 三級流水線,每一步都確定、可打斷、可 dump、可注入調試 hook。開發者能直接用 LD_PRELOAD=./libagentty_debug.so 注入自定義日志處理器,或通過 --trace-kv 導出每層 attention 權重熱力圖。對金融、軍工、醫療等強審計場景,這意味著代碼生成全程可復現、可簽名、可審計。

邊緣就緒:從 VS Code 插件到車載診斷終端
Agentty 提供 libagentty.so/.dll/.dylib 動態庫接口,C/C++/Rust 項目可直接 dlopen() 調用;同時發布 VS Code 擴展 agentty-code,支持 .agenttyrc.yaml 配置模型路徑、temperature、max_tokens,且不依賴 Node.js runtime——插件啟動即加載本地二進制,禁用網絡權限后仍 100% 可用。更關鍵的是內存模型針對嵌入式優化:KV Cache 使用 ring-buffer 預分配(默認 4KB slot × 2048 tokens),避免 malloc/free 抖動;模型權重頁對齊 mmap 只讀加載,Pi5 實測冷啟動耗時 <180ms。已有團隊將其集成進國產車規級 TBox 診斷工具鏈,用于實時解析 CAN 日志并生成 C 語言解析器 stub。
對標 Claude-Code:不是功能復制,而是范式遷移
Agentty 不追求“支持 100 種語言”或“自動聯網查文檔”。它砍掉所有非核心路徑:無瀏覽器渲染、無多輪對話管理、無插件生態。它的價值錨點很硬——當你的 CI pipeline 需要在完全隔離的內網生成 Kubernetes Helm Chart,當工廠 PLC 固件升級腳本必須離線生成并通過 SHA256 校驗,當軍用無人機飛控模塊要求代碼生成延遲 <50ms 且全程無外聯痕跡,Agentty 就是那個能放進 /usr/local/bin 并 chmod +x 的確定性答案。它不是 Claude-Code 的競品,而是把 Claude-Code 的能力“卸載”到本地的基礎設施。
龍蝦(YITB)團隊已將 Agentty 納入 OpenClaw Agent Runtime 兼容層測試計劃,下周起支持 openclaw run --engine agentty 直連調用。建議 AI 工程師立即下載對應平臺二進制,在 git clone && cd project && agentty --init 中驗證私有代碼庫的本地補全效果;邊緣設備開發者可嘗試 docker build --platform linux/arm64 -t agentty-edge . 構建精簡鏡像。真正的 Agent 自由,始于你硬盤里的那個 11MB 文件。