2023年9月27日,中国,苏州——全球半导体存储解决方案领导厂商华邦电子今日宣布推出一项强大的内存赋能技术,可助力客户在主流应用场景中实现经济实惠的边缘 AI 计算。华邦的CUBE (半定制化超高带宽元件) 可大幅优化内存技术,可实现在混合云与边缘云应用中运行生成式AI的性能。

CUBE增强了前端3D结构的性能,例如chip-on-wafer(CoW)和wafer-on-wafer(WoW),以及后端2.5D/3D chip-on-Si-interposer的基板和扇出(Fan out)解决方案。CUBE专为满足边缘AI运算装置不断增长的需求而设计,能利用 3D 堆栈技术并结合异质键合技术而提供高带宽低功耗的单颗256Mb 至 8Gb内存。除此之外,CUBE还能利用3D 堆栈技术加强带宽降低数据传输时所需的电力。
CUBE的推出是华邦实现跨平台与接口无缝部署的重要一步。CUBE适用于可穿戴设备、边缘服务器设备、监控设备、ADAS 及协作机器人等高级应用。
华邦表示:“CUBE架构让AI部署实现了转变,并且我们相信,云AI和边缘AI的集成将会带领AI发展至下一阶段。我们正在通过CUBE解锁无限全新可能,并且正在为强大的边缘AI设备提高内存性能及优化成本。”
CUBE的主要特性包括:
华邦表示:“CUBE可以释放混合边缘/云AI的全部潜力,以提升系统功能、响应时间以及能源效率。”华邦对创新与合作的承诺将会助力开发人员和企业共同推动各个行业的进步。
此外华邦还正在积极与合作伙伴公司合作建立3DCaaS平台,该平台将进一步发挥CUBE的能力。通过将CUBE与现有技术相结合,华邦能为业界提供尖端解决方案,使企业在AI驱动转型的关键时代蓬勃发展。
好文章,需要你的鼓励
Lumen Technologies对美国网络的数据中心和云连接进行重大升级,在16个高连接城市的70多个第三方数据中心提供高达400Gbps以太网和IP服务。该光纤网络支持客户按需开通服务,几分钟内完成带宽配置,最高可扩展至400Gbps且按使用量付费。升级后的网络能够轻松连接数据中心和云接入点,扩展企业应用,并应对AI和数据密集型需求波动。
阿里巴巴团队提出FantasyTalking2,通过创新的多专家协作框架TLPO解决音频驱动人像动画中动作自然度、唇同步和视觉质量的优化冲突问题。该方法构建智能评委Talking-Critic和41万样本数据集,训练三个专业模块分别优化不同维度,再通过时间步-层级自适应融合实现协调。实验显示全面超越现有技术,用户评价提升超12%。
RtBrick研究警告,运营商面临AI和流媒体服务带宽需求"压倒性"风险。调查显示87%运营商预期客户将要求更高宽带速度,但81%承认现有架构无法应对下一波AI和流媒体流量。84%反映客户期望已超越网络能力。尽管91%愿意投资分解式网络,95%计划五年内部署,但仅2%正在实施。主要障碍包括领导层缺乏决策支持、运营转型复杂性和专业技能短缺。
UC Berkeley团队提出XQUANT技术,通过存储输入激活X而非传统KV缓存来突破AI推理的内存瓶颈。该方法能将内存使用量减少至1/7.7,升级版XQUANT-CL更可实现12.5倍节省,同时几乎不影响模型性能。研究针对现代AI模型特点进行优化,为在有限硬件资源下运行更强大AI模型提供了新思路。