← 返回日报
🌐 机器翻译 · DeepSeek · ArXiv

Critique of Agent Model


摘要: 什么是智能体?什么构成智能体性?随着以“编程智能体”、“AI 科研合作者”以及其他“智能体工具”为卖点的大型语言模型(LLM)系统的兴起——这些工具承诺能提升生产力,与此同时,也引发了诸如“AI 以破坏性力量脱离人类控制”的投机性“机器智能体对抗人类”等存在主义担忧——厘清自动化在何处终结、智能体性在何处开始,对于构建有能力的系统以及理解我们是否应当恐惧、恐惧什么,都变得至关重要。借鉴笛卡尔将智能体性奠基于独立思想的观点,以及科幻作品中对自主存在的描绘,我们调查了当前 AI 智能体的格局,并从五个维度分析了智能体架构:目标、身份、决策、自我调节与学习。具体而言,我们认为真正的智能体性要求这些结构内化于系统自身,而非通过外部脚手架拼凑而成。这种区分界定了两类系统:一类是智能体化(agentic) 系统,其能力存在于工程化的工作流程中;另一类是具智能体性(agentive) 系统,其能力(包括社会互动)是内生的。这一界限划定了为预设任务设计的系统与那些能够在开放世界中以真正自主性运行的系统之间的区别。基于这一分析,我们提出了一种通用智能体模型的目标-身份-配置器(GIC)架构,该架构结合了层级化目标分解、身份演化、基于独立训练的世界模型的模拟推理、习得的自我调节,以及从真实与模拟经验中进行的自我导向学习。此外,我们还分享了关于具备更高自主性与“智能体性”、但仍处于人类监督之下的具智能体性系统的可审计性、可控性与安全性的见解。

📖 阅读原文 →