← 返回日报
🌐 机器翻译 · DeepSeek · ArXiv

Toward a Modular Architecture for Embedded AI Agent Systems at the Edge


摘要: 大型语言模型(LLM)的兴起使得具备复杂推理与工具使用能力的智能体 AI 成为可能;然而,在普适计算环境中部署此类自主系统仍面临挑战,原因在于嵌入式微控制器严格的内存与能量限制。现有框架通常假设具备服务器级资源或持续连接,从而在深度嵌入式系统领域留下空白。本文提出了一种面向嵌入式智能体系统的模块化参考架构,旨在弥合确定性实时控制与智能体智能之间的鸿沟。我们引入了一种分层设计,将设备端智能体(On-Device Agents)——执行高度压缩的神经网络与基于规则的逻辑,用于低延迟、隐私关键型任务——与云端增强智能体(Cloud-Augmented Agents)——利用小型语言模型(SLM)进行更高层次的推理与规划——解耦。一个关键贡献在于集成了跨领域的治理层(Governance Layer),确保对分布式自主设备集群的可观测性、策略执行与安全性。本文并非呈现纯粹的经验性基准测试,而是分析在资源受限环境中,关于延迟、能耗与可靠执行的架构设计原则与权衡。

📖 阅读原文 →