在拉斯维加斯正在进行的 AWS re:Invent 大会上,AWS 推出了针对高性能 AI 工作负载的下一代Trainium 和 Graviton 芯片。根据 AWS 的说法,Graviton4 比 Graviton3 提供明显更好的性能、更多的内核和更多的内存带宽。Graviton 是专为云工作负载构建的人工智能芯片系列。

第二个芯片 Trainium2 是一款高性能芯片,旨在在 Amazon Elastic Compute Cloud (EC2) “UltraClusters”中大规模部署100,000 个独立芯片。这些 EC2 Ultracluster 旨在满足使用云的计算能力的可扩展需求。
根据GitHub 上的 AWS 官方技术指南,该阵容中之前的芯片也以高效率和高性能为目标。例如,Graviton3E 由针对云原生工作负载优化的可扩展 Arm Neoverse V1 CPU 提供支持。Neoverse V1使用可扩展矢量扩展SVE,使Graviton3E能够适应不同的工作负载。与传统的单指令多数据 (SIMD) 架构相比,SVE 允许处理器在运行时而不是编译时适应不同的向量长度。
向量可以被认为是并行处理的元素的集合。传统 SIMD 架构中向量处理指令的一个示例是Intel x86 指令 _mm256_add_ps 指令。该指令适用于固定大小的 256 位向量。或者,使用 SVE,计算中使用的向量的大小是在运行时动态确定的。对于需要较小计算的工作负载,可以使用较小的向量来提高能源效率。因此,AWS 称赞 Graviton 3E 的矢量处理性能提高了 35%,也就不足为奇了。
AWS 创建 Graviton4是为了进一步提高 Graviton3E 的性能和可扩展性。Graviton4 由 Arm Neoverse V2 CPU 提供支持,Arm 表示该 CPU 可以使 Graviton3E 中使用的 Neoverse V1 的性能提高一倍。
Graviton4还具有增强的安全功能。Neoverse V2 CPU底层采用ArmV9,由于其保密的计算架构,本质上比其前辈更加安全。除了拥有更大的 2 MB 二级缓存外,Graviton4 还实现了分支目标识别 (BTI),这是底层 Arm CPU 架构的另一个功能。这可以防止由于间接分支而执行不需要的指令,从而增强代码安全性。AWS 表示,Graviton4 的数据库速度提高了 40%,Web 应用程序速度提高了 30%,同时仍然强调安全性和可扩展性。
人工智能或机器学习技术最重要的一个方面是训练,即使用一组数据“教授”人工智能的过程。AWS Trainium 专门针对通过云进行高性能训练计算基础设施。
Trainium AI 加速器使用AWS NeuronCore 架构,每个加速器具有 32 GB 的带宽内内存,并提供高达 190 TFLOP 的计算能力。NeuronCore 具有用于张量多维数组计算、矢量处理和标量处理的独立引擎。
AWS 表示,通过部署在 EC2 UltraCluster 中,Trainium2 的训练基础模型 (FM) 和大型语言模型 (LLM) 的速度比以前快四倍。AWS 还允许访问其他令人垂涎的人工智能芯片,例如 Nvidia GPU。一些 Nvidia 芯片,例如 GH200 Superchips,将可以通过 EC2 服务访问。
相关文章:
红/绿/红外多LED封装“SFH 7018”,亮度比公司上一代产品提高约40%
活性炭是什么东西?活性炭的作用是什么?
LVDS是什么意思?lvds接口是什么接口?LVDS接口的特点
瑞萨电子公布汽车处理器第五代 R-Car SoC
具有四个 Arm Cortex-X4 内核的智能手机旗舰 SoC
ddr3是什么意思?ddr2和ddr3有什么区别
IGBT是什么意思?什么是 IGBT模块? IGBT工作原理和作用
成像技术在电子产品质量控制中的作用
直流接触器有什么用?直流接触器和交流接触器的区别
技嘉 Wi-Fi 7 PCIe 卡让台式机拥有更快的无线连接
滑动变阻器的工作原理与作用
研华宣布量产灵活的原生AI模块SOM-6884
场效应管的符号、作用以及工作原理
焦距是什么意思?镜头焦距公式与换算
具有军用 H 级冲击/振动性能的湿式钽电容器
CSD是什么意思?电路交换数据业务为什么被取代?
外网评测的2023年最佳SSD:从廉价SATA到极速NVMe的前15名
英特尔:全新 Xeon CPU是目前市场上最适合人工智能的 CPU
苹果凭借适用于Mac的M3处理器系列保持领先地位
iTunes备份文件在哪里?不同操作系统下iTunes备份文件的位置
英国法拉第电池挑战赛鼓励追求更轻、更先进且成本更低的电动汽车电池
ST推出STM32WL33xx系列新型低功耗、高灵活性无线MCU
AI人工智能已经在工程工作场所发挥着越来越重要的作用
什么是raid卡?raid卡是干什么的?有什么作用?
什么是占空比?pwm、boost电路、555定时器、lm324等占空比的计算公式
Siglent 推出新款旗舰数字存储示波器
AWS 推出了两款人工智能芯片--Trainium 和 Graviton
适用于移动设备和可穿戴设备的4款电路保护器件
Microchip的四款航空航天和军用级MEMS振荡器
兆芯推出最高频率达 3.70 GHz的八核CPU KX-7000
电脑设备管理器在哪里?设备管理器怎么打开?(3种实用方法)
混合信号IP行业公司声称推出“世界首款”800G 以太网 DSP
TI为小型电源转换器加入 GaN FET 晶体管
什么是磁盘阵列?磁盘阵列的作用详解
RF前端市场预计2023年至2028年将以10%的复合年增长率增长
什么是僵尸网络?僵尸网络攻击是什么意思?僵尸网络的危害
3款高可靠性电路保护器件,更有效的过压保护
人工智能改进了气候变化模型,提高了卫星对降雨量的估计
介电常数是什么意思?介电常数越大代表什么?
什么是cqc认证?cqc认证是什么意思?cqc认证与ccc认证的区别
安规电容的作用是什么?安规电容和普通电容的区别
EDA是什么意思?eda技术是什么?eda软件有哪些?
windows键是哪个?windows徽标键和MacBook的windows键位置
什么是电脑屏幕分辨率?电脑分辨率怎么调?
Broadcom 在业界首次将神经网络引入交换机
lm339是什么电子元件?lm339参数/工作原理/引脚图及功能等中文资料
金刚石半导体器件具有最高的击穿电压
英飞凌将1.2kV和2kV的SiC MOSFET半桥引入62mm模块封装
电脑文件夹怎么设置密码?3分钟教会你如何给文件夹设置密码
激光雷达让汽车的自动驾驶变得智能