7月7日上午,在2023世界人工智能大会“AI生成与垂直大语言模型的无限魅力”主题论坛上,UCloud优刻得AIGC算力底座亮相,优刻得董事长兼CEO季昕华发表了“中立安全云计算助力大模型发展”主题演讲,介绍优刻得在AIGC领域的技术产品、工程能力和生态建设等发展情况。
作为具有10年云计算技术积累和全面工程能力的优刻得,全面拥抱了这次AIGC引爆的科技热潮。在演讲开始,季昕华展示了优刻得公司内部系统的“AI化”,短短几个月内,就基于公司内部使用场景,迅速推出了:“识问”智能助手平台,UCoder代码助手平台,AI绘画助手平台、大模型安全管理平台等。优刻得通过对AIGC应用侧的快速响应和研发,展示了在这个领域内“玩儿得转”的技术实力和工程能力、以及对用户场景的敏感洞察力。
由AIGC引爆的热潮里,国内大模型已百花齐放,竞速神通,但也面临算力、数据、模型稳定性、工程能力及安全等多方面的挑战。
针对AIGC发展的问题,优刻得在本次WAIC上隆重亮相的AIGC解决方案全景图,通过深厚的技术积累和全面的系统工程能力,推出涵盖了数据中心、计算平台、管理平台、网络服务、应用服务、生态接口的一系列产品和解决方案。开放、安全、定制的AIGC解决方案让客户既能利旧已有服务器资源,又可以便捷享受公有云的弹性扩容,实现IT层面的降本增效。并可通过数据中心托管专区,为用户提供完全物理隔离的独享机柜、服务器、网络、存储资源,结合完整的安全方案和专家服务,确保了用户的大模型平稳运行。
优刻得在国家“东数西算”算力枢纽节点,自建了低成本、高附加值的数据中心,相较北京同等质量的数据中心,成本下降40%。数据中心内,提供多款GPU算力资源选择,可为大模型的AI训练、推理、数据处理等多场景打造灵活、可扩展的算力服务,充分满足高电算力集群的高电需求。同时,通过IB和RoCE的高性能网络,打造互联的高性能计算集群,实现多节点间无损通信,满足用户多节点并行计算的场景需求。
优刻得 AIGC解决方案全景图
优刻得的AIGC金翼专区,分为“训练区、存储区、推理区和管理区”,在训练区主要以A800/H800进行集群专区建设,集群规模最大可达2048卡规模。并通过高带宽、低延迟的设计,提升整体训练效率。在存储区,根据高读写带宽的场景特点,采用冷热分离的存储系统设计,并支持POSIX、K8S CSI挂载方式,不仅能满足训练需求,同时保障成本可控。在推理区,通过内网打通同可用区公有云GPU资源池,具备多种类推理GPU资源,弹性可伸缩的满足多场景推理需求。在管理区,提供日志、调度、IPMI管控、自动化装机和公网访问等能力,协助用户进行更为便捷的远程管理。
在AIGC应用服务方面,为了满足客户对大模型的需求,优刻得以MaaS模式,推出“算法模型镜像市场”,上线Alpaca-LoRA7B、ChatGLM-6B、T5-Base、T5-3B、MiniGPT-4、Stable Diffusion 、Milvus向量数据库等7款开源模型和工具,覆盖知识推理、问答、图文生成及绘画设计等 AI 应用领域。通过“大模型+大算力”的方式,提供一键部署和开箱即用能力,为用户快速搭建大语言模型的微调或者推理环境。
私有化是垂直大模型的发展方向,针对政府、金融、教育、制造、基金等客户大模型场景,优刻得 AIGC 私有化算力中心和全栈私有云平台,从大模型训练推理多样化场景出发,为客户推荐机型提供预装部分工具的镜像;并提供推理GPU算力/网络资源;同时结合优刻得一云多芯且自主可控的私有云平台,提供虚拟化、存储、网络及 MaaS 模型的私有化交付解决方案,支持 Alpaca-LoRA、ChatGLM、T5、MiniGPT-4 及 Stable Diffusion 等大模型,可覆盖知识推理、问答、图文生成及绘画设计等 AI 应用领域,从而在用户本地或自己数据中心内部署针对特定场景的大模型服务,既可以为内部提供AI训练/推理服务,也可选择性对外提供AI推理服务。
优刻得 AIGC 私有化方案架构图
作为中立云计算企业,优刻得AIGC解决方案具有独特的优势:一是中立,优刻得作为中立第三方,与大模型企业没有竞争,不触碰用户的隐私数据。二是安全可靠,优刻得具有内资背景,系列安全防护产品及数据保护机制,确保大模型训练稳定可靠运行。并支持私有化部署。三是技术沉淀,优刻得具有超10年云计算技术沉淀,已经超5万家企业级消费用户验证,更好的为大模型提供稳定的高性能算力服务。四是工程能力,优刻得能够从数据中心、底层架构做到算力平台、模型库等,具有一站式系统工程服务能力。
随着AIGC的继续发展和走向行业纵深,UCloud优刻得将通过中立安全的算力底座,与技术层、应用层的合作伙伴一起,探索AIGC更大的发展前景和更广阔的发展空间。智算无界,生成未来。
好文章,需要你的鼓励
网络和基础设施管理技术提供商NetBox Labs完成3500万美元B轮融资。该公司是开源网络基础设施管理平台NetBox的商业化运营方,服务数万家企业用户,包括数十家财富500强公司。NetBox已成为现代技术基础设施构建、管理和自动化的标准平台,可加速创新、简化运营并支持AI应用场景。
这项研究开发了VIDEO-RTS系统,仅用传统方法3.6%的训练数据就让AI学会了真正的视频推理能力。系统采用"纯强化学习"跳过死记硬背阶段,结合"稀疏到密集"的自适应推理策略,在五个权威测试中平均准确率提升2.4%。这一突破性进展可能改变AI视频理解的发展方向。
ITPro Today针对IT专业人士进行的边缘计算策略调查显示,55%的受访者对边缘计算概念仅"有所了解",21%的组织IT预算中边缘计算投资不足5%,而33%的组织至少投入10%。性能提升和安全性是采用边缘计算的主要驱动因素,分析和数据缓存是主要应用场景。Microsoft Azure IoT Edge是最广泛使用的边缘平台,混合云-边缘模型成为主流架构。成本仍是边缘计算采用的最大障碍。
约翰斯·霍普金斯大学研究团队开发出能够自主完成胆囊切除术的手术机器人系统SRT-H。该系统采用分层决策架构,具备自我纠错能力,在8次完整手术测试中实现100%成功率。系统通过观看16000个手术轨迹学习,能够像人类医生一样观察、判断和纠错,代表了手术机器人向真正自主化迈出的重要一步。