以下是根据您要求翻译的中文版本，保留了原文结构、技术术语和代码块，并采用 Markdown 格式输出。
Hugging Face 模型在 Foundry 托管计算上的应用
Back to Articles a]:hidden"> Hugging Face 模型在 Foundry 托管计算上的应用 企业文章 发布日期：2026 年 7 月 7 日 点赞 - Manoj Bableshwar manojsb 关注 Microsoft Osi ositanachi 关注 Microsoft
平台：Microsoft Foundry 与托管计算
为什么选择 Hugging Face
Foundry 上的 Hugging Face 模型
策展管道
模型运行时
部署与评分一个开放权重模型
部署模板
部署 — Python SDK
评分 — OpenAI SDK
在 Agent 中使用
当前可用内容
在 Microsoft Build 2026 上，我们宣布了 Foundry 托管计算以及 Foundry 上的 Hugging Face 模型——这是一个来自 Hugging Face 生态系统的开放权重模型的策展目录，每周刷新，可一键部署到 Foundry 托管计算上。权重已预置在 Azure 中，运行时由 Microsoft 构建并扫描，集合中的每个模型都享有与企业安全、治理、可观测性和计费相同的保障，适用于 Foundry 上的所有其他模型。
平台：Microsoft Foundry 与托管计算
Microsoft Foundry 是一个用于构建和运行智能体 AI 应用的平台。Foundry 从云上最广泛的模型选择开始——模型来自 Microsoft、OpenAI、Anthropic、Meta、Mistral、DeepSeek、Hugging Face 等，涵盖前沿、开源和自定义权重——所有这些都可以通过一个统一的端点和一套统一的 SDK（支持 Python、C#、JavaScript 和 Java）访问。
在这些模型之上，Foundry 提供了 Agent 服务：多智能体编排，内置记忆功能，通过 Foundry IQ 实现知识锚定，以及通过智能体协议连接的工具目录，使智能体能够与企业数据协同工作。一旦智能体运行起来，Foundry 提供端到端追踪、实时监控、持续评估以及一个基于评估结果优化智能体行为的提示优化器——这些可观测性和质量闭环是平台的一部分。
此外，开发者还可以获得：
- 内容安全过滤器
- 任务遵循护栏
- 用于对抗性测试的 AI 红队 Agent
- 统一 RBAC
- 私有网络
- 平台内直接集成的 Azure Policy
除了按 token 付费（最低门槛的入门方式）和预配吞吐量（针对前沿模型的可预测、高性能生产工作负载）之外，Foundry 托管计算是 Foundry 中的第三种部署选项：一个面向开源和自定义模型的托管 GPU 平台即服务。您可以根据工作负载的关键参数——参数量、上下文长度，以及是否优化延迟或吞吐量——来部署一个模型实例，Foundry 会处理底层的 GPU 拓扑结构，无论实例落在一个还是多个加速器上，您都可以用模型的视角进行思考和规划。Microsoft 负责机器的运维：容器更新、运行时升级和安全补丁会在支持的运行时（vLLM、SGLang、TensorRT-LLM、NIM、TEI、llama.cpp）上自动执行，无需重新部署模型，而模型配置、部署行为和路由则始终由您掌控。
这种一致性贯穿整个开发者界面——按 token 付费、预配吞吐量和托管计算共享：
- 一个统一的端点
- 相同的 SDK
- 相同的身份验证
- 相同的可观测性
- 一张统一的账单
开源模型与 Foundry Agents 的集成方式与前沿模型相同，因此您可以在单个智能体中混合使用不同类型的模型，无需单独的集成路径。
托管计算提供：
- 全球部署——最广泛的容量和最优的定价
- 数据区域部署——数据驻留和主权
- 相同的代码，相同的工作流
配额与加速器系列对齐，因此今天基于 H100 系列构建的计划，在新硬件世代上线时也能延续使用。
为什么选择 Hugging Face
Hugging Face 是开放 AI 的公共广场：拥有 1500 万开发者、40 万个组织以及超过 300 万个开放模型发布，每周都有新的前沿能力——智能体编码、视频分割、语音、嵌入——落地。它是开放模型的 GitHub，社区在这里发布权重、编写模型卡、比较评估结果，并拉取模型进行实验。
开放模型在多个基准测试上已经缩小了与专有模型的差距，并且它们解锁了专有端点无法实现的功能：
- 最先进的技术现已开放。 领先的开放权重模型在广泛使用的基准测试上与顶级封闭前沿模型具有竞争力。
- 深度定制。 完整的权重使得微调、蒸馏、量化和通过 LoRA 适配成为可能——根据您的领域、数据、延迟和成本目标定制模型。
- 您的模型，您的托管。 权重在您的租户内运行，部署在您控制的基础设施上，位于您的推理端点之后，使用您的身份和网络边界。
- 成本控制。 按小时支付加速器费用，空闲时缩至零，并根据具体模型调整 GPU 规模——这对于按 token 定价难以预测的稳定、高容量或延迟敏感型工作负载非常有用。
- 版本控制。 锁定特定模型版本，进行评估、部署，并根据您自己的发布节奏向前推进或回滚。
一直以来，挑战在于运维层面：发现、许可证审查、安全筛选、运行时选择、GPU 规模规划、镜像构建、CVE 补丁修复，以及将模型部署到企业级端点之后。Hugging Face 本身并不是一个企业级服务平台。Foundry 上的 Hugging Face 模型就是由 Microsoft 运营的这个运维层。
Foundry 上的 Hugging Face 模型
Hugging Face 集合 将策展后的模型子集直接引入 Foundry 模型目录：
- 每周刷新——随着社区发布新模型，来自 Hugging Face 生态系统的热门模型会持续添加。
- 涵盖所有模态——文本、视觉、音频和多模态：用于聊天和智能体的 LLM 和 VLM、ASR 和语音翻译、嵌入、分割、图像生成。
- 仅限 Safetensors，无不可信代码——集合中的每个模型都经过安全筛选，并以 S
请输出翻译