随着 chatgpt 引领的生成式 ai 的兴起,on-device ai 市场正在开放,引起了人们对新型存储半导体的关注。设备端 ai 是指在不依赖服务器和云的情况下,在智能手机等信息技术(it)设备中实现 ai 功能的技术。
据业内人士消息,三星电子目前也在开发低延迟宽 io(llw)dram,并计划于明年年底量产。llw 是一种特殊类型的 dram,与传统的内存芯片 lpddr 相比,它通过扩展输入/输出(i/o)路径来增加带宽。由于带宽与传输速度成正比,因此这种类型的 dram 在处理设备实时生成的数据时效率明显更高。
三星电子自 2020 年之前就一直在开发轻量级的 on-device ai 算法,并将其应用于片上系统(soc)、内存和传感器,从而增强了其在 on-device ai 半导体领域的竞争力。预计该公司将于明年开始全面占领市场,首先是其内部开发的生成式人工智能 samsung gauss 的移动产品部署。
此前曾有消息指出 sk 海力士正在面向 vision pro 独家提供 dram 存储芯片,该芯片与 r1 芯片相结合以实现实时高速的高清视频处理。
据了解,llw dram 不仅可用于新一代 xr 终端设备,此外,它还能用于搭载 on-device ai 的产品当中。与云端ai不同,on-device ai 需要直接在设备端执行数亿次指令,为了快速处理大量数据而不消耗过多电量,用于增强辅助计算的 dram 显得至关重要。
业内人士预计,继 hbm 之后,llw dram 市场的扩张将预示着定制内存时代的开始。由于配备 on-device ai 的设备差异很大,并且每个设备需要不同的功能,因此需要从开发阶段与客户密切合作,以确定生产方法和数量。内存制造商不再大规模生产小品种产品,而是可以采用基于订单的商业模式,保持定价权并确保稳定的性能。