以下是您要求的英文文章的中文翻译,已按照保留原文结构、技术术语不翻译、代码块原样保留等要求处理。
IT领导者扩展AI架构所需的四大基础要素
随着人工智能能力的快速进步以及向智能体系统的转变,组织正在扩大其应用场景,而技术也在持续发展。这种不断的演进也带来了风险,让IT领导者们难以判断哪些投资在六个月后仍能证明其价值。回归AI架构的基础要素——即大规模部署和管理可靠、集成化AI系统所需的结构性框架——能够让技术领导者今天做出明智的决策,同时为未来能够跨系统检索信息、做出决策并执行复杂工作流的AI智能体提供支持。
您可以信赖的四大AI架构要素
无论底层技术如何演变,以下能力都为迈向生产级部署提供了稳定的指南针。
1. 为大规模AI准备数据
模型的可靠性取决于其能够访问的数据质量,数据质量差会导致AI产生幻觉、偏见和不可靠的输出。大多数企业依赖遗留系统、不一致的数据结构、分散的数据所有权以及不完整的数据集,这使得有效扩展AI变得困难。尽管AI本身功能强大,但它无法解决这些底层数据问题。正如Elastic首席信息官Adnan Adil所解释的:“数据是AI架构中持久的一部分,因为没有数据,这些模型就无法运行,无法提供正确的上下文,也无法提供我们期望实现的服务水平。”
行业调查一致将数据质量列为AI成功最大的障碍之一。“数据质量必须良好;否则,用户就会对系统失去信心,”Adil说。一个有效的AI策略始于连接整个组织的数据,并确保数据得到组织、准确、受治理且可实时访问。这些考量从一开始就内置于模型和架构中时最为有效。可扩展的数据架构使AI系统能够随着业务一起发展,并可靠地连接到交付有意义价值所需的内部信息。Gartner预测,到2026年,如果AI项目得不到AI就绪数据的支持,企业将放弃其中60%。避免这种结果需要明确的数据标准和所有权、干净且标注过的数据,以及支持实时检索的数据管道。
2. 利用上下文工程为每个AI查询提供正确的数据
上下文工程确保模型为每个查询提取最相关的信息,选择并组织所需的数据,以高效地生成准确的答案。有效的上下文工程塑造了指导AI推理和行动的输入。虽然提示工程侧重于请求的措辞方式,但上下文工程设计的是模型周围的整个信息环境:检索正确的数据,并以结构化的、机器可读的方式呈现。许多组织发现,可靠的AI既依赖于模型本身的强度,也同样依赖于上下文的质量。
上下文工程依赖于现代化、统一的数据基础,以及检索和记忆系统,例如检索增强生成(RAG)和向量数据库。它还需要仔细的优先级排序,以确定哪些信息最重要、哪些应该被排除,以及何时应该使用不同类型的信息。向模型提供过多的上下文可能会稀释相关细节、增加成本并减慢响应时间。“最小化上下文、正确且最新的数据,以及机器可读的信息,是有效上下文工程的关键,”Adil说。
3. 从一开始就构建AI治理和LLM可观测性
强大的治理和LLM可观测性帮助组织保持对AI系统如何使用数据的控制,监控系统性能,并在问题影响运营之前识别它们。在缺乏对检索、工作流和模型使用的明确控制的情况下,AI系统通常会处理远超必要的信息量。这种低效率还会因需要额外的计算资源而推高运营成本,这通常反映在更高的令牌消耗和API费用上。治理还与强大的安全性协同工作。AI扩大了攻击面,引入了诸如基于提示的数据泄露、模型漏洞和对抗性输入等风险。保护敏感信息需要强大的访问控制、监控和监督。Adil指出,基本控制措施——包括与安全、细粒度成本管理、项目控制、数据安全和架构相关的控制——往往不足。
为了使治理系统能够支持透明、合规、可信且成本效益高的AI,组织不能将其留作事后添加的层。治理结构需要从一开始就嵌入到架构、工作流和决策过程中。当治理从一开始就建立起来时,它就能实现强大的可观测性。可观测性帮助组织了解AI应用在实际中的表现如何。LLM可观测性和基准测试机制使团队能够随时间评估准确性和实用性,监控采用模式,并根据条件变化调整系统。可观测性还通过提高模型性能、行为和故障点的可见性来帮助组织赢得信任。此外,可观测性对于实现AI计划的投资回报率(ROI)至关重要,因为其收益往往是间接的,业务价值在很大程度上取决于系统如何被采用和使用。对AI行为的实时可见性使组织能够衡量性能……(原文在此处截断)