ZDNet至顶网服务器频道 03月10日 评论分析:刀片服务器或许可以给你一点帮助。我们知道,刀片服务器由刀片机箱(可以容纳2到14块刀片)、刀片机身以及所有刀片共享的管理单元、网络与存储连接组成。每块刀片相当于一个独立的1U机架式服务器,可以配置1到4个CPU(提供2到48个内核),支持的内存可达256GBRAM,具备1~2块硬盘插槽,或者整个刀片服务器可以共享配备6块或更多块硬盘的存储系统。
有了这些“装备”,整个刀片服务器系统只需要一个键盘、鼠标和视频连接(或独立的管理连接)、两条用于冗余的电源连接以及一条网络连接。此外,许多刀片机箱还为每块刀片提供光纤通道或InfiniBand连接。
是否选择刀片服务器企业IT需求是重点
产品有了,我们不得不提到产品的用户群。从直观的成本上考虑,一般中小企业采购服务器大多首选塔式服务器或机架式服务器,而言刀片服务器可能价格稍贵而被忽视。
对此,业界也有不同的说法:所谓物尽其用,只要系统得到充分地利用,刀片服务器在生命周期中可能更省钱。
具体来说,任何使用3台服务器以上的系统,刀片服务器都可能是个不错的选择。首先,刀片服务器大大简化了线缆配置,一个界面即可管理所有刀片,使管理变得更容易;其次,刀片服务器具有更高的密度,可以把更多的设备压缩到塔式或机架服务器配置无法放入的空间中;再次,刀片服务器比单台服务器具有更好的可靠性,可采用冗余电源和高可用性组件等选件;此外,刀片的可扩展性更好,你可以根据公司需要先购买未装满刀片的系统,随着业务的增加,可以通过购买更多的刀片来扩展。长远来看,省小钱赚大钱。
不过,看刀片服务器系统是否适合一家企业,与这家企业本身的类型或规模的关系不大,而是取决于这家企业的IT需求。如果该企业每年仅购买一到两台服务器,那么选用刀片服务器是有些奢侈了,但如果要购买4到12台甚至更多的机架服务器组成的集群,那更换为刀片服务器就很值得。尤其是在有多名数据中心管理员的企业,刀片服务器简化了管理系统,企业在人力管理成本上也可以有明显的节约。
好文章,需要你的鼓励
OpenAI首席执行官Sam Altman表示,鉴于投资者的AI炒作和大量资本支出,我们目前正处于AI泡沫中。他承认投资者对AI过度兴奋,但仍认为AI是长期以来最重要的技术。ChatGPT目前拥有7亿周活跃用户,是全球第五大网站。由于服务器容量不足,OpenAI无法发布已开发的更好模型,计划在不久的将来投资万亿美元建设数据中心。
阿里巴巴团队提出FantasyTalking2,通过创新的多专家协作框架TLPO解决音频驱动人像动画中动作自然度、唇同步和视觉质量的优化冲突问题。该方法构建智能评委Talking-Critic和41万样本数据集,训练三个专业模块分别优化不同维度,再通过时间步-层级自适应融合实现协调。实验显示全面超越现有技术,用户评价提升超12%。
英伟达推出新的小型语言模型Nemotron-Nano-9B-v2,拥有90亿参数,在同类基准测试中表现最佳。该模型采用Mamba-Transformer混合架构,支持多语言处理和代码生成,可在单个A10 GPU上运行。独特的可切换推理功能允许用户通过控制令牌开启或关闭AI推理过程,并可管理推理预算以平衡准确性和延迟。模型基于合成数据集训练,采用企业友好的开源许可协议,支持商业化使用。
UC Berkeley团队提出XQUANT技术,通过存储输入激活X而非传统KV缓存来突破AI推理的内存瓶颈。该方法能将内存使用量减少至1/7.7,升级版XQUANT-CL更可实现12.5倍节省,同时几乎不影响模型性能。研究针对现代AI模型特点进行优化,为在有限硬件资源下运行更强大AI模型提供了新思路。