AMD 梳理设备端、边缘端和云端的 AI 部署选项

AMD 于 2026 年 11 月 7 日发布指南,说明客户应在哪里运行 AI 工作负载。该指南根据数据访问、响应要求、连接情况、容量和成本,区分设备端、边缘、集中式数据中心和云端部署。指南还将混合式 AI 作为一种选择,可结合本地处理与集中式或云端资源。

AMD 将 AI 部署位置与工作负载要求相联系

AI 可以在员工 PC、边缘端、客户自有数据中心运行,也可以通过云服务运行。AMD 表示,合适的部署位置取决于数据访问、响应速度、连接可靠性、所需容量以及成本是否可控。

训练或优化大型模型通常需要依托数据中心或云端提供大量算力。推理使用现有模型处理新请求,根据模型和软件的不同,可以在 PC、边缘端或集中式基础设施上进行。AMD 将文档摘要和日常员工辅助列为常见推理工作负载的示例。

AMD 用五个问题评估 AI 部署

AMD 建议合作伙伴在推荐产品前明确工作负载要求。评估内容包括:数据是否必须保留在本地、工作负载需要多快响应、是否必须在连接不可靠时运行、有多少用户或系统需要访问,以及使用量增长时成本会如何变化。

敏感信息、行业规定和公司政策可能使设备端处理或在客户自有基础设施内处理更为合适。实时视频、机械设备和交互式辅助则可能更适合在数据产生的位置附近进行推理。远程站点、移动员工和受限环境可能需要 AI 在连接不可用或不可靠时继续运行。

供一名员工使用的本地助手,与服务整个企业的共享模型有所不同,尤其是在需求随时间变化时。云端 AI API 可能按 Token 使用量收费,而企业订阅可能采用按席位或其他定价方式。对于按使用量计费的 API,请求量和 Token 消耗增加时,成本也可能上升。

AMD Tokenomics Calculator 对比本地与云端成本

AMD Tokenomics Calculator 可对受支持的本地和云端 AI 场景进行成本估算和比较。用户可以输入客户的团队规模、预期使用量、所选云端模型和分析周期,了解采用范围扩大时成本可能如何变化。

该计算器会估算所选周期内的成本,并将云端 API 成本与在 AMD 设备上运行受支持的 AI 工作负载,或通过本地与云端混合处理来运行这些工作负载的成本进行比较。计算器还纳入了运营和硬件成本估算。AMD 表示,计算结果应视为起点;在推荐部署方案前,还应审查模型和软件兼容性、许可、IT 支持及计算器假设范围之外的其他成本。

AMD 硬件支持设备端、边缘端和数据中心 AI

设备端 AI 可支持在本地处理数据或无需持续连接互联网即可运行的应用。搭载 AMD Ryzen™ AI PRO 处理器的系统结合 CPU、GPU 和 NPU,可支持本地 AI 应用,包括生产力工具和文档辅助。本地处理可减少对网络连接的依赖,并避免受支持工作负载产生网络往返延迟。

对于边缘 AI,AMD Ryzen™ AI Embedded X100 Series 处理器整合了 CPU、GPU 和 NPU 加速能力,可用于同时处理本地 AI 和其他高负载任务的系统。将更多处理留在现场,可以减少通过网络发送的原始数据量、缓解带宽压力,并帮助对时间敏感的系统无需等待远程服务即可响应。

集中式数据中心基础设施可支持更大型的模型、共享服务和高强度训练。AMD EPYC™ 服务器 CPU 和 AMD Instinct™ GPU 可支持高强度推理、模型训练,以及维持企业 AI 系统运行的服务。AMD Enterprise AI Reference Stack 通过开放式软件基础,帮助企业在 AMD 基础设施上部署和管理 AI。

云服务可提供托管模型或能够随需求变化而调整的算力。AMD 表示,一些企业可能会出于成本和规模方面的考虑,将大型 AI 工作负载留在自己的数据中心;另一些企业则可能更倾向于使用云服务来处理波动的工作负载,或获取不值得在内部长期维护的资源。

AMD 展示混合式 AI:69% 的 Token 在本地处理

AMD 在 Advancing AI 2026 文章中介绍了一项客服展示:一套搭载 AMD Ryzen™ AI 处理器并运行 Lemonade 的系统在设备端处理常规模型请求,并将要求更高的请求发送给云端模型。在这项特定展示中,AMD 报告称,69% 的 Token 在本地处理,31% 则卸载到云端。

AMD 表示,这些数据来自一次展示,每位客户的处理比例都会有所不同。在该示例中,应用会决定如何处理各项请求:适合的任务使用本地 AI,需要时则使用更大型的云端模型。AMD 将这种方法描述为一种兼顾数据处理需求与安全性,并有助于降低持续云计算成本的方式。

AMD Ryzen AI 处理器可支持员工设备上的工作,AMD Ryzen™ AI Embedded 处理器可将推理能力引入现场系统,而 AMD EPYC 服务器 CPU 和 AMD Instinct GPU 可支持集中式工作负载。AMD 建议先定义一项 AI 工作负载,再用五个问题确定部署选项;在适用时,使用 AMD Tokenomics Calculator 对比估算成本,并在推荐硬件前验证模型和软件兼容性。

AMD 部署指南保留技术和成本细节

  • AMD Ryzen™ AI PRO 处理器结合 CPU、GPU 和 NPU,可用于本地 AI 应用。
  • AMD Ryzen™ AI Embedded X100 Series 处理器整合 CPU、GPU 和 NPU 加速能力,可用于边缘系统。
  • AMD EPYC™ 服务器 CPU 和 AMD Instinct™ GPU 支持高强度推理、模型训练和企业 AI 服务。
  • AMD Enterprise AI Reference Stack 提供开放式软件基础,支持在 AMD 基础设施上部署和管理 AI。
  • AMD Tokenomics Calculator 对比受支持的本地、云端以及本地与云端混合 AI 场景。
  • 该计算器接受团队规模、预期使用量、所选云端模型和分析周期作为输入。
  • 在 AMD 的客服展示中,69% 的 Token 在本地处理,31% 卸载到云端。

常见问题

AMD Tokenomics Calculator 对比什么?

AMD Tokenomics Calculator 对比受支持的本地和云端 AI 场景的估算成本,包括云端 API 成本、AMD 设备工作负载以及本地与云端混合处理。该计算器还纳入了运营和硬件成本估算。

哪些 AMD 处理器支持本地和边缘 AI?

AMD Ryzen™ AI PRO 处理器结合 CPU、GPU 和 NPU,支持本地 AI 应用。AMD Ryzen™ AI Embedded X100 Series 处理器整合了 CPU、GPU 和 NPU 加速能力,适用于在边缘端处理 AI 的系统。

AMD 混合式 AI 展示中的本地处理占比是多少?

在 AMD 的客服展示中,一套搭载 AMD Ryzen™ AI 处理器并运行 Lemonade 的系统将 69% 的 Token 留在设备端处理,另有 31% 卸载到云端。

免责声明:以上内容(如有图片或视频亦包括在内)均为平台用户上传并发布,本平台仅提供信息存储服务,对本页面内容所引致的错误、不确或遗漏,概不负任何法律责任,相关信息仅供参考。

本站尊重他人的知识产权、名誉权等法律法规所规定的合法权益!如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到qklwk88@163.com,本站相关工作人员将会进行核查处理回复

赞 (0)
上一篇 2026年11月7日 上午10:56
下一篇 2026年11月7日 上午11:32

相关推荐

风险提示:理性看待区块链,提高风险意识!