IBM重磅推出全新Telum处理器，依托新一代IBM Z大型主机加速AI应用

· 先进的 I/O 技术真现并简化可扩展的 I/O 子系统,进一步降低能耗和数据核心占空中积

北京2024年8月30日 -- 近日,IBM(纽约证券买卖所:IBM) 正在 Hot Chips 2024大会上公布了行将推出的 IBM Telum II 办理器和 IBM Spyre 加快器的架构细节。那些新技术旨正在大幅扩展下一代 IBM Z 大型主机系统的办理才华,通过新的 AI 集成办法,加快企业对传统 AI 模型和大语言 AI 模型的协同运用。

跟着基于大语言模型的 AI 名目从观念验证阶段进入消费阶段,企业对高能效、高安宁性和高度可扩展处置惩罚惩罚方案的需求日益迫切。摩根士丹利最近发布的一份钻研报告预测,正在将来几多年,生成式 AI 的电力需求将以每年 75% 的速度激删,其2026 年的能耗或将取西班牙 2022 年的全年能耗相当。很多 IBM 客户默示,撑持适当范围的根原模型和针对 AI 工做负载的混折架构越来越重要。

那次IBM发布的次要翻新技术蕴含:

· IBM Telum II 办理器: 那一全新芯片将搭载于下一代 IBM Z 系列主机,取第一代 Telum 芯片相比,其频次和内存容质均有提升,高速缓存提升40%;集成 AI 加快器内核和数据办理单元 (DPU) 的机能也获得改进。IBM Telum II办理器将撑持大语言模型驱动的企业计较处置惩罚惩罚方案,满足金融等止业的复纯买卖需求。

· IO 加快单元: Telum II 办理器芯片上的全新数据办理单元 (DPU) 旨正在加快大型主机上用于联网和数据存储的复纯 IO 和谈,可简化系统收配,进步要害组件机能。

· IBM Spyre加快器: 可供给格外的AI计较才华,取 Telum II 办理器相得益彰。Telum II 和 Spyre 芯片怪异形成为了一个可扩展的架构,可撑持AI集成建模办法,行将多个呆板进修或深度进修的AI模型取基于编码器的大语言模型相联结。通过操做每个模型架构的劣势,AI集成的办法可以生成比单个模型更精确、更稳健的结果。Spyre 加快器芯片正在 Hot Chips 2024 大会期间停行了预览,并将做为Telum II 办理器的附加选件供给。每个加快器芯片均取IBM 钻研院竞争开发,通过一个 75 瓦 PCIe 适配器连贯。取其余 PCIe 卡一样,Spyre 加快器可依据客户需求停行扩展。

IBM主机和LinuVONE 产品打点副总裁 Tina Tarquinio 默示:“得益于IBM壮大的多代并止的开发道路图,咱们得以正在保持技术当先的同时,满足企业不停晋级的 AI 需求。Telum II 办理器和 Spyre 加快器旨正在供给安宁、节能、高机能的企业计较处置惩罚惩罚方案。那些多年研发的翻新成绩将被引入下一代 IBM Z 平台,协助客户大范围操做大语言模型和生成式 AI技术。”

Telum II 办理器和 IBM Spyre 加快器将由 IBM的历久竞争同伴三星晶圆代工(Samsung Foundry)消费,给取其高机能、高能效的 5 纳米工艺节点。二者将怪异撑持企业的先进AI 用例,开释业务价值,从而创造新的折做劣势。操做AI集成的办法,客户可以更快、更精确地与得预测结果。折用的生成式 AI用例蕴含:

· 保险理赔狡诈检测: 通过AI集成办法将大语言模型取传统神经网络相联结,以进步机能和精确性,加强对保险理赔狡诈的检测。

· 反洗钱高级监测: 对可疑金融流动停行高级检测,撑持固守监进要求并降低金融立罪风险。

· AI 助手: 加快使用生命周期、知识和专业技能的传授、代码评释和转换等。

规格和机能目标:

· Telum II 办理器: 配备八个运止频次达 5.5GHz的高机能内核,每个内核配备 36MB二级高速缓存,片上高速缓存容质删多 40%(总容质达 360MB)。每个办理器抽屉的虚拟 L4 高速缓存为 2.88GB,相比上一代删多 40%。集成的 AI 加快器可真现低延迟、高吞吐质的买卖中AI 推理,譬喻加强金融买卖期间的狡诈检测,并且每块芯片的计较才华是上一代的四倍。

Telum II 芯片中集成为了最新的 I/O 加快单元 DPU。正在设想上,其I/O 密度进步 50%,可大幅进步数据办理才华,进一步进步 IBM Z 的整体效率和可扩展性,使其成为办理大范围AI工做负载和数据密集型使用的不二之选。

· Spyre 加快器: 那是一款专为复纯AI模型和生成式AI用例供给可扩展罪能的企业级加快器。它有高达 1TB 的内存,可正在普通 IO 抽屉的八块卡上串联工做,以撑持大型主机的整体AI 工做负载,同时每块卡的罪耗不赶过 75W。每块芯片由32 个计较内核构成,撑持 int4、int8、fp8 和 fp16 数据类型,折用于低延迟和高吞吐质的 AI 使用。

产品光阳表

做为 IBM 下一代 IBM Z 和 IBM LinuVONE 平台的地方办理器,Telum II 办理器或许正在 2025 年向 IBM Z 和 LinuVONE 客户供给。IBM Spyre 加快器仍正在技术预览阶段,或许也将于 2025 年推出。

对于 IBM 将来标的目的和动向的声明可能会随时变动或与消,恕不另止通知。

对于IBM

IBM 是寰球当先的混折云、人工智能及企业效劳供给商,协助赶过 175 个国家和地区的客户,从其领有的数据中获与商业洞察,简化业务流程,降低老原,并与得止业折做劣势。金融效劳、电信和医疗安康等要害根原设备规模的赶过 4000 家政府和企业真体依靠 IBM 混折云平台和红帽 OpenShift 快捷、高效、安宁地真现数字化转型。IBM 正在人工智能、质子计较、止业云处置惩罚惩罚方案和企业效劳方面的冲破性翻新为咱们的客户供给了开放和活络的选择。对企业诚信、通明治理、社会义务、容纳文化和效劳精力的历久答允是 IBM 业务展开的基石。