Agentty開源C++26輕量級AI Agent運行時:11MB零配置支持邊緣部署

Agentty 開源:C++26 實現、11MB 二進制、零配置 Claude-Code 級 Agent 運行時
Agentty —— 一個基于 C++26 的輕量級 AI Agent 運行時,已開源(GitHub: agentty/agentty)。它不依賴 Python 解釋器,不打包 LLM 權重,也不綁定特定推理后端。單個 11MB 靜態鏈接二進制即可完成工具調用、記憶管理、多步規劃與結構化輸出。在 Raspberry Pi 5 上實測完整 Tool-Calling 鏈路平均延遲 82ms。這不是 CLI 包裝器,而是可嵌入邊緣設備、WebAssembly 模塊或 RTOS 固件的 Agent 底層基座。
技術底座:C++26 是確定性保障,不是彩蛋
Agentty 使用 C++26 核心特性:std::expected 統一錯誤傳播、std::mdspan 零拷貝內存視圖、constexpr std::format 編譯期日志生成。JSON Schema 校驗、OpenAPI 工具解析、異步 HTTP 調度等全部 Agent 邏輯,在編譯期完成類型推導與路徑優化。相比 LangChain 0.3.x(x86_64 下平均內存占用 320MB),Agentty 常駐內存 <4MB,無 GC 停頓,無動態符號解析開銷。agent::Runtime 類支持直接繼承并重載 on_tool_call(),無需改動構建系統。
零配置 ≠ 零設計:硬約束換直裝即用
“零配置”指無需 pip install、無需 .env、無需 docker-compose.yml。下載二進制后執行:
./agentty --tool-dir ./tools --llm-endpoint http://localhost:8000/v1/chat/completions即可啟動。背后是三重硬約束:
- 工具描述必須為 OpenAPI 3.1 JSON Schema
- LLM 接口嚴格遵循 OpenAI 兼容協議(含
tool_choice="auto"語義) - 所有 I/O 通過 POSIX
readv/writev批量處理,規避 stdio 緩沖污染
Jetson Orin Nano 上連續運行 72 小時,無文件描述符泄漏。
對比閉源工具鏈:可控性就是生產力
Cursor、GitHub Copilot 等將工具注冊、記憶序列化、調試協議全部黑盒封裝。Agentty 反其道而行:
- 工具注冊只需
tools/ls.json(含parametersschema 與exec_path) - 記憶快照為純文本
mem/step_0042.jsonl - 調試端點暴露標準
/debug/stackHTTP 接口
開發者可直接:

gdb -p $(pgrep agentty)查看 agent::PlanState 實例,或用:
bpftrace -e 't:syscalls:sys_enter_write { @bytes = hist(arg2); }'觀測 IO 模式。MIT 許可證,允許靜態鏈接至商業固件。
與龍蝦 / OpenClaw 生態自然協同
Agentty 不綁定任何 LLM 供應商,但 tool_call 響應格式與龍蝦 v0.9.3 Agent SDK 完全兼容:
{"name":"web_search","arguments":{"q":"C++26 constexpr regex"}}可直傳 openclaw::ToolExecutor::invoke()。OpenClaw 用戶可將 openclaw::AgentBuilder 輸出的 Plan 對象序列化為 Agentty 輸入,在 ARM64 設備上實現 <100ms 端側決策閉環。龍蝦官網 www.xmhny.cn 已上線 Agentty 適配指南。
行業意義:Agent 正從“膠水層”回歸“系統層”
過去兩年,Agent 框架沉溺于 Python DSL 和 LLM API 膠合:LangChain 抽象 17 層接口仍繞不開 GIL;LlamaIndex 把向量檢索包裝成 as_retriever() 方法,卻掩蓋內存失控。Agentty 證明:真正的輕量化不是刪功能,而是用現代 C++ 重定義邊界——把工具調度、狀態機、協議適配下沉為 OS 級原語。當 Agent 運行時體積 <12MB、啟動時間 <35ms、內存抖動 ±0.3MB,它就不再是“應用”,而是像 libc 一樣成為 AI 基礎設施的隱式依賴。社區已在推進 WASI-NN 后端支持,讓 Agentty 二進制可在 Deno、Wasmer 中直接加載。
現在該做什么?
- 克隆倉庫,
make build-static生成跨平臺二進制 - 運行
./agentty --help查看內置工具集 - 將現有 Python Agent 的
tool_calls邏輯剝離為獨立 OpenAPI 描述,放入tools/目錄 - 用
strace -e trace=connect,sendto,recvfrom ./agentty ...驗證網絡行為是否符合預期
這才是可控 Agent 開發的起點。