成都汇阳投资关于大模型如雨后春笋,算力需求促 CXL 速渗透
www.041799.com|时间:2023-06-26 13:36|责任编辑:王翦|来源: 互联网 阅读量:11805 会员投稿
2023年6月19日,腾讯云在北京召开行业大模型及智能应用技术峰会,首次公布腾讯云行业大模型研发进展,依托肠讯云 T 平台打造行业大模型精选商店,为客户提供 MaaS一站式服务,助力客户构建专属大模型及智能应用,随着大数据 AI/ML 等应用爆发, 内存与算力间技术发展差距逐步加大,成为制约计算系统性能主要因素。
CX 有望突破内存墙1O墙瓶颈,优势星著
当前主流计算系统数据处理方案依赖冯诺依受架构(数据存储与数据处理 分高体系),为满足速度及容量需求,现代计算系统通常采取高速缓存(SRAM)、主存 (DRAM)、外部存储(NAND Flash)三级存储结构。越靠近运算单元存储器速度越快,但受功耗、散热 、芯片面积等因素制约,相应容量越小。如 SRAM 响应时间为纳秒级 ,DRAM为100 纳秒量级 ,NANDFlash为 100 微秒级,当数据在高速缓存I主存I外部存储三级传输时,后级响应时间及传输带宽将拖累整体性能,形成“存储墙”。 IO墙产生于外部存储中,当数据量庞大需借助外部存储,并用网络 IO 访问数据 。
IO方式访问使访问速度成数量级下降,拖累整体性能。CXL(Compute Express Link),作为一种全新互联技术标准 ,可保证与 GPU、FPGA 或其可加速器间实现高速高效互联,满足高性服异构计算要求。且维护CPU内存空间及连接设备内存间一致性,可突破内存墙及10墙瓶颈,缩减整体响应时间。
CXL3.0 共享内存时代有望到来
CXL1.1支持 CXLio,CXL.cache.CXL.mem 协议 。CXL.io 为 PCle5.0 增强版本,运行于PCle 总线物理层 。CXL.cache 用于一致主机缓存访问 ,CXL.mem 用于主机内存访问,三种方法构成连接主机与设备新基础路线。CXL20在 CXL11基础上,增加热插拔 (HotPlug)、安全升级、持久内存 (PersistentMemory), Telemetry,RAS支持及 Switch 等功能 。加入 Switch 层 , 实现多设备连接到一个 rootport,且当设备内存不足时 ,CXL 技术能够让设备在内存池里寻找内存空间 。在该框架下,跨系统设备实现共享内存池成为可能。CXL3.0 建立于PCI-Express6.0之上 (CXL1.0/1.1 和 2.0 版本建立于 PCle50 之上),其带宽提升两倍 ,且简单化部分复杂的标准设计,确保易用性。
CXL 技术发展前景可期 ,国内外芯片大厂加速布局
2021年10月,Rambus发布CXL2.0控制器 。2022年5月,澜起科技发布全球首款CXL内存扩展控制器芯片 (MXC)。2022年5月,美满电子宣布将收购先进CXL 技术领先开发商 Tanzanite 。2022年8月 ,Microchip推出基于CXL新型 SMC2000 系列智能存储控制器,使 CPU、GPU 及 SoC 利用CXL接口连接DDR4 或 DDR5 存储器,2022 年8月,SK 海力士推出首款CXL存储器样品,有望于2023年量产,10月,全行业率先研发出首款将计算功能与 CXL存储器相结合 CMS。2023年1月 ,三星电子展示其 512GBCXL存扩展器 。AMD预计将于2023年推出支持CXL.1 接口新品。
相关公司
澜起科技:公司已推出全球首款符合CXL2.0规范的MXC芯片 ,三星发布的首款512G 内存拓展器DRAM模组的 MXC由公司提供。2022年5月,公司发布全球首款CXL内存扩展控制器芯片; 2023年1月,澜起科技宣布,其PCIe 5.0/CXL 2.0 Retimer 芯片成功实现量产。
神州数码:2022年自研服务器开发取得了重要进展 ,完成海光平台服务器样机开发 ,样机主板配置海光最新推出的HYGON7300 系列处理器 ,系统采用智能化、模块化的设计理念,接口设计标准化;同时 ,模块组合配置灵活,面向 CXL 提供架构扩展能力。
得润电子:公司在互动平台表示,公司具有CXL相关技术储备。
郑重声明:此文内容为本网站转载企业宣传资讯,目的在于传播更多信息,与本站立场无关。仅供读者参考,并请自行核实相关内容。
- 摩米士推出AirBoxGo空气盒子MA02多
- 龙芯5月龙架构LoongArch平台适配新增130款产品,含摩尔线程
- 2023全球数字经济大会“新一代软件产业高质量发展论坛”即将在北京大
- 光荣特库摩《Fate/SamuraiRemnant》PC配置公布,9
- Xbox负责人:《我的世界》没有PS5原生版本,主要是因为索尼不给开
- SpaceX拟通过出售内部股票筹资7.5亿美
- 杭州网约车新门槛:必须是新车,非新能源纯电动车价格需过15万元
- 分析师:英特尔将在两年内出售半数芯片制造部门股权,最高节约100亿美
- 开创消化病诊疗新模式北京和睦家用行动践行“患者中心说”
- 摩米士推出新款DH18USB-C扩展坞:8合1、一键息屏,229.9
最新
精选
-
2022汽车下乡补贴价格表
很多人关注2022汽车下乡补贴,这是新政策。如果你有...
-
平价雪糕难觅?热销款10个卖
在炎热的夏天吃冰淇淋是一件很酷的事情。但最近有不少消...
-
协鑫电港一包多车未来3年覆盖
6月8日,GCL能科正式发布GCLTeleport系...