AWS 推出了两款人工智能芯片--Trainium 和 Graviton
发布时间:2025-10-29 09:38:09

  在拉斯维加斯正在进行的 AWS re:Invent 大会上,AWS 推出了针对高性能 AI 工作负载的下一代Trainium 和 Graviton 芯片。根据 AWS 的说法,Graviton4 比 Graviton3 提供明显更好的性能、更多的内核和更多的内存带宽。Graviton 是专为云工作负载构建的人工智能芯片系列。

AWS 推出了两款人工智能芯片--Trainium 和 Gravitonxx

  第二个芯片 Trainium2 是一款高性能芯片,旨在在 Amazon Elastic Compute Cloud (EC2)  “UltraClusters”中大规模部署100,000 个独立芯片。这些 EC2 Ultracluster 旨在满足使用云的计算能力的可扩展需求。


  根据GitHub 上的 AWS 官方技术指南,该阵容中之前的芯片也以高效率和高性能为目标。例如,Graviton3E 由针对云原生工作负载优化的可扩展 Arm Neoverse V1 CPU 提供支持。Neoverse V1使用可扩展矢量扩展SVE,使Graviton3E能够适应不同的工作负载。与传统的单指令多数据 (SIMD) 架构相比,SVE 允许处理器在运行时而不是编译时适应不同的向量长度。


  向量可以被认为是并行处理的元素的集合。传统 SIMD 架构中向量处理指令的一个示例是Intel x86 指令 _mm256_add_ps 指令。该指令适用于固定大小的 256 位向量。或者,使用 SVE,计算中使用的向量的大小是在运行时动态确定的。对于需要较小计算的工作负载,可以使用较小的向量来提高能源效率。因此,AWS 称赞 Graviton 3E 的矢量处理性能提高了 35%,也就不足为奇了。


  AWS 创建 Graviton4是为了进一步提高 Graviton3E 的性能和可扩展性。Graviton4 由 Arm Neoverse V2 CPU 提供支持,Arm 表示该 CPU 可以使 Graviton3E 中使用的 Neoverse V1 的性能提高一倍。


  Graviton4还具有增强的安全功能。Neoverse V2 CPU底层采用ArmV9,由于其保密的计算架构,本质上比其前辈更加安全。除了拥有更大的 2 MB 二级缓存外,Graviton4 还实现了分支目标识别 (BTI),这是底层 Arm CPU 架构的另一个功能。这可以防止由于间接分支而执行不需要的指令,从而增强代码安全性。AWS 表示,Graviton4 的数据库速度提高了 40%,Web 应用程序速度提高了 30%,同时仍然强调安全性和可扩展性。


  人工智能或机器学习技术最重要的一个方面是训练,即使用一组数据“教授”人工智能的过程。AWS Trainium 专门针对通过云进行高性能训练计算基础设施。


  Trainium AI 加速器使用AWS NeuronCore 架构,每个加速器具有 32 GB 的带宽内内存,并提供高达 190 TFLOP 的计算能力。NeuronCore 具有用于张量多维数组计算、矢量处理和标量处理的独立引擎。


  AWS 表示,通过部署在 EC2 UltraCluster 中,Trainium2 的训练基础模型 (FM) 和大型语言模型 (LLM) 的速度比以前快四倍。AWS 还允许访问其他令人垂涎的人工智能芯片,例如 Nvidia GPU。一些 Nvidia 芯片,例如 GH200 Superchips,将可以通过 EC2 服务访问。



相关文章: 什么是二进制?一张图看懂二进制  PCI总线是什么?pci总线是串行总线吗?pci总线和pcie总线的区别  RDS 推出紧凑、高性能 OLED 显示模块  坚持自主创新 增强发展实力  EMI屏蔽和光学粘合在先进医疗、国防显示技术中有双重作用  祝贺获得正能量电子网的颁奖企业  晶达光电即将推出 EN 50155 平板电脑  适用于汽车应用领域的3款电路保护器件  什么是寄存器?寄存器的作用是什么?寄存器和存储器的区别  联想悄然推出了一款运行 Android 系统的商用投影仪  Viasat和Skylo将推出用于物联网的太空网络通信设备  2023年最佳游戏显卡排名前10名  意法半导体宣布推出1200V耐压、车用SiC功率电源模块  AA电池是什么电池?AA电池和AAA电池的区别  东芝电子扩展了其公司指定的“智能功率器件”(IPD) 范围  罗姆的新型高功率激光二极管可扩展激光雷达范围  视在功率是什么意思?视在功率有功功率无功功率的公式和关系  中国首家!意行半导体推民用毫米波雷达MMIC解决方案  2023 年推出的体积更小、性能更高的电容器和电阻器  城域网是什么意思?城域网和广域网的区别  ddr3是什么意思?ddr2和ddr3有什么区别  ad620是什么电子元件?ad620的参数/工作原理/引脚图及功能等中文资料  适用于移动设备和可穿戴设备的4款电路保护器件  质量为本:英飞凌推出全球首款采用微型封装的工业级eSIM卡  windows键是哪个?windows徽标键和MacBook的windows键位置  Nicomatic 为所有DMM连接器引入了新的插接前锁定机制  buck电路是什么意思?buck电路图及其工作原理  三安半导体和Luminus Devices合作销售功率半导体芯片  人工智能改进了气候变化模型,提高了卫星对降雨量的估计  什么是第一宇宙速度?第一宇宙速度是多少千米/马赫?  中国电科获中国改革发展杰出贡献企业荣誉  英国法拉第电池挑战赛鼓励追求更轻、更先进且成本更低的电动汽车电池  ON 的 Hyperlux LP 图像传感器可延长电池寿命  什么是arp攻击?arp攻击原理以及arp断网攻击解决方法  什么是热电阻?热电阻工作原理与作用以及和热电偶的区别  iTunes备份文件在哪里?不同操作系统下iTunes备份文件的位置  电脑文件夹怎么设置密码?3分钟教会你如何给文件夹设置密码  PL2303和CH340C哪个好?PL2303和CH340的区别  LVDS是什么意思?lvds接口是什么接口?LVDS接口的特点  ROHM已开始量产自动校正失调电压的零漂移运算放大器  瑞萨电子提升32位MCU中24位ADC的性能  stc89c52rc是什么电子元件?stc89c52rc的参数/引脚图及功能和应用领域  医疗应用传感器在提高医疗设备性能方面发挥着基础性作用  西门子加入 SureCore 和 Semiwise 开发低温CMOS电路芯片  Neuchips 在2024 年消费电子展上展示面向个人电脑的低功耗人工智能升级产品  AV同芯插座的市场调查报告介绍  金刚石半导体器件具有最高的击穿电压  什么是位移传感器?位移传感器的原理与应用案例  Onsemi、三菱电机和 ST 各自扩大 SiC 产能  激光雷达让汽车的自动驾驶变得智能