新的IBM Telum II处理器和IBM Spyre加速器为企业级人工智能解锁功能，包括大型语言模型和生成式人工智能
先进的I/O技术实现并简化了可扩展的I/O子系统，旨在减少能源消耗消耗和数据中心占用
加利福尼亚州帕洛阿尔托，2024年8月26日/美通社/——IBM(纽约证券交易所代码:IBM)在Hot Chips 2024上公布了即将推出的IBM Telum®II处理器和IBM Spyre™加速器的架构细节。新技术旨在通过一种新的人工智能集成方法，显著扩展下一代IBM Z大型机系统的处理能力，帮助加速传统人工智能模型和大型语言人工智能模型的串联使用。
随着许多利用大型语言模型(llm)的生成式人工智能项目从概念验证转向生产，对节能、安全和可扩展解决方案的需求已成为关键优先事项。摩根士丹利(Morgan Stanley) 8月份发表的研究报告预计，未来几年，生成式人工智能的电力需求将每年飙升75%，到2026年，它消耗的能源将与西班牙在2022年消耗的能源一样多。许多IBM客户表示，支持适当规模的基础模型和人工智能工作负载的混合设计方法的架构决策越来越重要。
今天公布的主要创新包括:
- IBM Telum II处理器:旨在为下一代IBM Z系统提供动力，与第一代Telum芯片相比，新的IBM芯片具有更高的频率，内存容量，高速缓存和集成AI加速器核心增长40%以及相干附加数据处理单元(DPU)。新的处理器有望支持llm的企业计算解决方案，满足行业复杂的事务需求。
- IO加速单元:Telum II处理器芯片上的全新数据处理单元(DPU)旨在加速主机上网络和存储的复杂IO协议拉梅。DPU简化了系统操作，提高了关键性能整体性能。
- IBM Spyre加速器:提供additional AI计算能力，以补充Telum II处理器。通过合作，Telum II和Spyre芯片形成了一个可扩展的架构，以支持人工智能建模的集成方法——将多个机器学习或深度学习人工智能模型与编码器llm相结合的实践。通过利用每个模型体系结构的优势，集成AI可以提供比单个模型更准确和健壮的结果。IBM Spyre加速器芯片在2024年热芯片大会上进行了预览，将作为附加选项交付。每个加速器芯片通过一个75瓦的PCIe适配器连接，并且是ba基于与IBM研究院合作开发的技术。与其他PCIe卡一样，Spyre Accelerator可扩展以满足客户需求。
Telum II处理器和IBM Spyre加速器将由IBM的长期制造合作伙伴三星代工制造，并建立在其高性能，节能的5nm工艺节点上。他们将协同工作，支持一系列先进的人工智能驱动的用例，旨在释放商业价值并创造新的竞争优势。通过人工智能的集成方法，客户可以在他们的预测上获得更快、更准确的结果。今天宣布的联合处理能力将为生成式人工智能用例的应用提供一个入口。一些例子包括:
广告- 保险索偿欺诈侦测:通过集成人工智能增强家庭保险索赔中的欺诈检测，将llm与传统相结合Nal神经网络旨在提高性能和准确性。
- 高级反洗钱:对可疑金融活动进行高级检测，支持遵守监管要求，降低金融犯罪风险。
- 人工智能助手:推动应用程序生命周期的加速，知识和专业知识的转移，代码解释以及转换等等。
Telum II处理器:具有8个高性能内核，运行速度为5.5GHz，每个内核具有36MB二级缓存，片上缓存容量增加40%，总计为360MB。每个处理器抽屉的虚拟4级缓存为2.88GB，比上一代增加了40%。集成的人工智能加速器允许低延迟、高吞吐量的交易中的人工智能推理，例如增强金融交易中的欺诈检测，并且每个芯片的计算能力比上一代增加了四倍。
新的I/O加速单元DPU集成到Telum II芯片中。它旨在提高数据处理能力，I/O密度提高50%。这一进步增强了IBM Z的整体效率和可扩展性，使其非常适合处理当今企业的大规模人工智能工作负载和数据密集型应用程序。
Spyre Accelerator:为复杂人工智能模型和生成式人工智能用例提供可扩展功能的专用企业级加速器。它具有高达1TB的内存，可在普通IO抽屉的8张卡上串联工作，以支持整个大型机的AI模型工作负载，同时每张卡的消耗不超过75W。每个芯片将有32个计算核心，支持int4, int8, fp8和fp16数据类型，用于低延迟和高吞吐量的AI应用程序。
广告可用性
Telum II处理器将成为IBM下一代IBM Z和IBM LinuxONE平台的中央处理器。预计在2025年IBM Z和LinuxONE客户端可以使用它。目前处于技术预览阶段的IBM Spyre加速器预计也将于2025年上市。
有关IBM未来方向和意图的声明可随时更改或撤回，恕不另行通知，仅代表目标和目的。
一个布特IBM
广告IBM是全球混合云和人工智能以及咨询专业知识的领先提供商。我们帮助超过175个国家的客户利用其数据洞察力，简化业务流程，降低成本并在其行业中获得竞争优势。金融服务、电信和医疗保健等关键基础设施领域的数千家政府和企业实体依赖IBM的混合云平台和红帽OpenShift来快速、高效、安全地实现数字化转型。IBM在人工智能、量子计算、行业特定云解决方案和咨询方面的突破性创新为我们的客户提供了开放和灵活的选择。所有这一切都得益于IBM对信任、透明、责任、包容和服务的长期承诺。
Additio最终来源
- 阅读更多关于IBM Telum II处理器
- 阅读更多关于IBM Spyre加速器
- 阅读更多关于IO加速器
追逐斯金纳
广告IBM通信
(电子邮件保护)
Aishwerya保罗
IBM通信
广告(电子邮件保护)
1资料来源:摩根士丹利研究，2024年8月。
广告本文来自作者[白衣酒客]投稿，不代表荀策号立场，如若转载，请注明出处：https://xuncenet.com/wiki/202508-4410.html
评论列表（4条）
我是荀策号的签约作者“白衣酒客”！
希望本篇文章《IBM新型处理器创新推动下一代IBM Z大型机系统的人工智能发展》能对你有所帮助！
本站[荀策号]内容主要涵盖：国足,欧洲杯,世界杯,篮球,欧冠,亚冠,英超,足球,综合体育
本文概览：新的IBM Telum II处理器和IBM Spyre加速器为企业级人工智能解锁功能，包括大型语言模型和生成式人工智能 先进的I/O技术实现并...