AI Agent平臺(tái)開源AI自動(dòng)化框架:本地運(yùn)行支持Llama/Qwen/Phi等模型,無需API密鑰純離線部署

AI Agent平臺(tái):本地運(yùn)行、開源AI自動(dòng)化框架的硬核優(yōu)勢(shì)
AI Agent平臺(tái) 是一個(gè)完全開源、純本地運(yùn)行的 AI 自動(dòng)化框架。它不依賴云端 API,支持 Claude、GPT 等遠(yuǎn)程模型,也原生集成 Llama、Phi、Qwen 等主流本地模型。所有推理、調(diào)度、數(shù)據(jù)流轉(zhuǎn)都在用戶設(shè)備上完成——沒有后臺(tái)服務(wù),沒有遙測(cè),沒有強(qiáng)制聯(lián)網(wǎng)。工作流用 YAML 定義,插件用 Python 編寫,整個(gè)系統(tǒng)可審計(jì)、可復(fù)現(xiàn)、可嵌入任何私有環(huán)境。
無需 API 密鑰
AI Agent平臺(tái) 不需要任何 API 密鑰。它不向外部服務(wù)發(fā)起認(rèn)證請(qǐng)求,也不在啟動(dòng)時(shí)檢查密鑰有效性。
- 遠(yuǎn)程模型(如 Claude、GPT)通過
curl或httpx直連官方 API,密鑰由用戶自行配置在環(huán)境變量或配置文件中,框架本身不存儲(chǔ)、不透?jìng)鳌⒉痪彺?/li> - 本地模型直接調(diào)用 Ollama、llama.cpp、vLLM 或 HuggingFace Transformers 的本地實(shí)例,全程離線
- 沒有“試用配額”“調(diào)用限頻”“賬單提醒”這類概念——你有多少顯存,就能跑多大模型;你有多少時(shí)間,就能調(diào)度多少任務(wù)
這意味著:
- 新手跳過注冊(cè)/充值/配額申請(qǐng),解壓即用
- 企業(yè)規(guī)避密鑰輪換、泄露審計(jì)、跨區(qū)域合規(guī)等運(yùn)維負(fù)擔(dān)
- 紅隊(duì)、滲透測(cè)試人員可在斷網(wǎng)靶機(jī)中部署完整 AI 輔助分析鏈
數(shù)據(jù)不出設(shè)備
AI Agent平臺(tái) 默認(rèn)不上傳任何原始數(shù)據(jù)、提示詞或上下文。所有輸入輸出均保留在本地進(jìn)程內(nèi)存或用戶指定路徑中。
- 工作流中每個(gè)節(jié)點(diǎn)的輸入/輸出默認(rèn)以臨時(shí)文件或內(nèi)存管道傳遞,不落盤(除非顯式配置
save_to: /path) - 日志級(jí)別可控(
DEBUG/INFO/WARNING),敏感字段(如 API 密鑰、token、用戶文檔內(nèi)容)默認(rèn)脫敏 - 用戶可完全禁用日志:
--log-level NONE,或重定向到/dev/null - 無內(nèi)置 telemetry、no metrics endpoint、no update checker ——
ps aux | grep ai-agent只顯示你啟動(dòng)的進(jìn)程
典型場(chǎng)景:
- 醫(yī)療機(jī)構(gòu)用 AI Agent平臺(tái) 自動(dòng)摘要脫敏后的病歷文本,原始 PDF 始終存于內(nèi)網(wǎng) NAS
- 金融機(jī)構(gòu)在 air-gapped 服務(wù)器上解析財(cái)報(bào) PDF,生成結(jié)構(gòu)化表格,全程不觸網(wǎng)
- 法務(wù)團(tuán)隊(duì)用本地 Qwen2.5-7B 處理合同草稿,條款比對(duì)結(jié)果只寫入加密 USB
可定制工作流
AI Agent平臺(tái) 的工作流不是預(yù)設(shè)模板,而是聲明式任務(wù)圖(DAG)。每個(gè)節(jié)點(diǎn)是獨(dú)立可替換的組件:
tasks:
- id: extract_text
type: pdfplumber
input: "{{ inputs.pdf_path }}"
output: "/tmp/text.md"
- id: summarize
type: llm
model: "qwen2.5:7b"
prompt: |
請(qǐng)用三點(diǎn)總結(jié)以下內(nèi)容:
{{ tasks.extract_text.output }}
- id: notify
type: telegram
token: "{{ env.TELEGRAM_TOKEN }}"
chat_id: "-1001234567890"
message: "{{ tasks.summarize.output }}"- 支持條件分支、循環(huán)重試、超時(shí)熔斷、失敗回調(diào)
- 所有節(jié)點(diǎn)類型(
pdfplumber、llm、telegram)都是獨(dú)立 Python 類,可隨時(shí)替換成自定義實(shí)現(xiàn) - 內(nèi)置適配器覆蓋 30+ 平臺(tái):WhatsApp(via Termux + CLI)、Discord(Webhook)、Telegram、Slack、Notion、MySQL、SQLite、REST API……
- 無 GUI 依賴,純 CLI + YAML 驅(qū)動(dòng),適合 CI/CD、cron、systemd 集成
實(shí)際用法示例:
- 每日凌晨 3 點(diǎn)拉取 GitHub issues → 用本地 Phi-3 分類優(yōu)先級(jí) → 寫入內(nèi)部 Jira
- 微信公眾號(hào)圖文自動(dòng)排版:OCR 掃描手寫稿 → 本地 Qwen-VL 識(shí)別公式 → Markdown 渲染 → 發(fā)送至微信素材庫 API
國產(chǎn) Claws:中文場(chǎng)景的深度適配
AI Agent平臺(tái) 的模塊化設(shè)計(jì)催生了一批專注中文場(chǎng)景的衍生項(xiàng)目。它們不是“魔改版”,而是基于同一內(nèi)核的垂直增強(qiáng):
| 項(xiàng)目 | 定位 | 關(guān)鍵改進(jìn) |
|---|---|---|
| AutoClaw | 企業(yè)辦公自動(dòng)化 | 內(nèi)置微信 PC 協(xié)議客戶端、飛書多維表格 SDK、WPS COM 接口 |
| NanoClaw | 邊緣設(shè)備輕量運(yùn)行 | 移除 PyTorch 依賴,僅用 llama.cpp + ONNX Runtime,ARM64 下內(nèi)存占用 < 300MB |
| MedClaw | 醫(yī)療文書處理 | 集成中文臨床術(shù)語詞典、ICD-10 編碼映射、結(jié)構(gòu)化病歷 Schema 校驗(yàn)器 |
這些項(xiàng)目共享 AI Agent平臺(tái) 的核心調(diào)度器和 YAML 語法,但各自維護(hù)獨(dú)立插件倉庫。用戶可混用:比如用 NanoClaw 跑 OCR,把結(jié)果喂給主 AI Agent平臺(tái) 實(shí)例做 GPT-4o 級(jí)摘要。
生態(tài)協(xié)同:從工具到基礎(chǔ)設(shè)施
AI Agent平臺(tái) 的模塊邊界清晰:
ai-agent-core: DAG 調(diào)度、YAML 解析、生命周期管理(MIT 許可)ai-agent-plugins: 官方維護(hù)的通用節(jié)點(diǎn)(PDF、LLM、Telegram 等),按需安裝- 第三方插件:全部發(fā)布為獨(dú)立 PyPI 包,如
ai-agent-sqlite,ai-agent-wechat,pip install即可注冊(cè)
社區(qū)已產(chǎn)出:
ai-agent-slackbot: 將 Slack channel 轉(zhuǎn)為工作流觸發(fā)源ai-agent-usb-monitor: 檢測(cè) USB 設(shè)備插入事件,自動(dòng)啟動(dòng) OCR 流程ai-agent-rtsp: 接入海康/大華 IPC 流,幀級(jí)調(diào)用本地視覺模型
這種分層架構(gòu)讓 AI Agent平臺(tái) 既能作為個(gè)人腳本工具(單文件 ai-agent run workflow.yaml),也能嵌入企業(yè)系統(tǒng)成為自動(dòng)化中間件(通過 AI Agent平臺(tái)Client SDK 調(diào)用)。
現(xiàn)在就能做的事
立刻驗(yàn)證:
pip install ai-agent ai-agent init --template basic ai-agent run workflow.yaml動(dòng)手改造:
- 復(fù)制
ai-agent/plugins/llm.py,改成調(diào)用你的私有 vLLM endpoint - 在
tasks:下新增一個(gè)type: custom_script節(jié)點(diǎn),執(zhí)行任意 shell 命令
- 復(fù)制
參與共建:
- 提交 issue 描述你卡住的中文 OCR 場(chǎng)景(掃描件傾斜/印章遮擋/手寫混排)
- PR 一個(gè)
ai-agent-plugins-zh倉庫,貢獻(xiàn)微信消息解析器或法院文書模板
AI Agent平臺(tái) 不是“另一個(gè) AI 助手”。它是把 AI 當(dāng)作 Unix 工具鏈里的一環(huán):可管道、可重定向、可組合、可審計(jì)。你不需要相信它——你可以 strace 它,gdb 它,或者直接刪掉 plugins/ 目錄,自己重寫。