数据中心、GPU、Token:我们到底需要多少,又要付出多少代价?
SK Ventures的Paul Kedrosky与Azeem Azhar近期就AI基础设施展开辩论:前者认为token价格下降、资本过热形成泡沫,后者则以超大规模云厂商资产回报率为据,认为需求真实。与此同时,Broad...
SK Ventures的Paul Kedrosky与Azeem Azhar近期就AI基础设施展开辩论:前者认为token价格下降、资本过热形成泡沫,后者则以超大规模云厂商资产回报率为据,认为需求真实。与此同时,Broad...
加州奥克兰学区74辆电动校车配备Tellus Power的V2G充电系统,两年间累计向电网回馈1.7GWh电力,可为约千户家庭供电,系统正常运行率超99.5%,并通过电力套利为学区创收。
Polestar与牛津大学合作,让12名驾驶员佩戴心率监测和眼动追踪设备在瑞典赛道测试Polestar 4两款车型。数据显示,544马力版本峰值加速高出32%,转向力却减少15%,驾驶体验评分达89.2分,远高于268马...
澳大利亚两党就AI发展趋于共识,但民众信任度持续下滑。据悉,AI驱动的职场监控已造成实际伤害,包括强制视频监控、超市工人被AI绩效指标压榨及骑手账号遭误封。报告呼吁修订《公平工作法》,要求所有员工监控须符合"公平合理"原...
ServiceNow为AI Control Tower更名为Super Intelligence Control Tower(SICT),并推出AI Passport功能,为每个AI智能体提供加密签名凭证,实现运行时权限...
记者Paris Marx新书《Hyperscale》揭示,AI时代超大规模数据中心电力需求激增,谷歌2024年温室气体排放同比增50%,微软碳负排放目标被迫推迟,科技巨头纷纷以AI发展为由放弃此前气候承诺,周边社区同时面...
企业客服AI厂商Scaled Cognition发布文本转语音模型Voice,支持25种以上语言及语音克隆,托管API定价9美元/百万字符,自托管仅需1美元,声称延迟低至70毫秒,可与现有联络中心平台及传统IVR系统集成...
随着冰雪运动不断向专业化、常态化发展,滑雪装备的价值也在发生变化。过去,滑雪爱好者更关注雪板、雪鞋等直接影响滑行表现的器材;如今,运动数据记录、雪道信息获取和训练效果复盘,也逐渐成为进阶过程中不可忽视的环节,同时安全性也...
当前,全球供应链正在经历着深刻变革。一方面,不确定性持续加剧,地缘局势、政策波动、原材料成本起伏,都不断考验供应链韧性。
大语言模型做语音识别时,词表太大导致CTC训练内存爆炸。本文提出Pruned CTC,数学等价地压缩计算量,并基于此打造LLM-CTC,实现快速非自回归语音识别及流式识别,兼顾精度与效率。
论文提出DISCO框架,将长文本处理拆分为分布式证据检索与集中式推理两阶段,通过Driver-Worker架构和强化学习训练,在百万token场景下准确率达78.4%,成本降低超80%,有效解决大模型长文本推理质量下降问...
小米团队提出Gagar框架,用智能评分体对代码AI生成的多个方案进行横向排名,把奖励从低质量方案转移给高质量方案,解决了传统强化学习只看测试通过、不看代码质量的问题,训练更稳定,效果超越部分顶级模型。
大模型强化学习训练时GPU分配计划常常一成不变,但序列长度会暴涨16倍导致方案失效。Nereus提出成本感知调度和弹性模型单元,实现训练中动态调整,吞吐量提升最高7.27倍。