中国苏州——GTC China——2019年12月18日——阿里巴巴近期使用NVIDIA GPU大规模部署AI,在年度最大购物节日——“双十一”,为客户提供服务。
在今年“双十一”购物节期间,阿里巴巴创造了380亿美元的销售额,相比于去年的310亿美元,增长了近四分之一,是“黑色星期五”和“网购星期一”的网购销售额总和的两倍多。
每天有超过1亿购物者在其网站上浏览数十亿种商品。在购物高峰日,网站活动量更是会猛增,阿里巴巴的系统每秒需要处理数十万个查询。
阿里巴巴异构计算总监徐凌杰表示,能够保证了这一切都能正常运行,正是AI 的功劳。
他表示:“为了能够给用户带来良好的客户体验,我们采用NVIDIA加速计算平台大规模部署先进的AI技术,包括T4 GPU、cuBLAS、自定义混合精度和推理加速软件等。”
“通过该平台的直观搜索功能和可靠的推荐,我们能够支持比过去复杂6倍的模型,从而使点击率提高10%。相比于CPU,T4将我们最大模型的吞吐量提高了100倍。”
对于阿里巴巴和其他领先的网络零售商来说,推荐系统都是一个至关重要的应用程序。该系统可以向用户展示与其喜好相匹配的商品,从而提高点击率。而点击率在电商行业一直都是提高销售量的重要驱动力。
点击率的每一次小幅提高都会直接影响用户的体验和商家的营收。使用能够实时大规模运行的先进推荐系统模型可使点击率提高10%,目前这只能通过GPU实现。
阿里巴巴团队使用NVIDIA GPU支持资源分配、模型量化和图变换三项优化策略,从而提高吞吐量和响应性。
这使得NVIDIA T4 GPU能够为阿里巴巴广泛、深入的推荐模型提供加速,实现每秒处理780个查询。这远远领先于基于CPU的推理——后者每秒只能处理3个查询。
阿里巴巴还部署了NVIDIA GPU为各类系统提速,包括自动广告横幅生成、广告推荐、帮助识别假冒产品的图像处理、语言翻译以及语音识别等系统。作为全球第三大云服务提供商,阿里云提供了多种能够智能调度、自动维护和实时扩容的异构计算产品。
面对数十亿种可供选择的商品,AI已成为帮助购物者筛选,并为其提供最相关建议的关键。NVIDIA的AI平台通过使用最先进的AI模型来满足这一需求。
阿里巴巴富有远见性地部署了NVIDIA的AI平台,表明在广泛的新兴行业中,未来还将会有更加蓬勃的发展。
正如其工具能为数百万消费者筛选数十亿的产品一样,运行于NVIDIA GPU之上的AI推荐程序还将在其它数不胜数的数字服务中找到一席之地,这些服务包括应用App Store、新闻提要、餐厅指南和音乐服务,为用户提供优质的用户体验。
好文章,需要你的鼓励
人工智能初创公司Counterintuitive Corp.正式发布,旨在通过开发专为推理而非模仿设计的芯片和软件来重新定义AI。该公司提出人工推理单元(ARU)这一全新计算架构类别,以解决现代AI面临的"精度无真理、推理无记忆"双重困境。ARU采用确定性、记忆驱动的推理架构,配合全栈推理软件,承诺突破当前AI局限性,开启后GPU时代的智能计算新纪元。
北京大学团队开发出WoW世界模型,这是首个真正理解物理规律的AI系统。通过200万机器人互动数据训练,WoW不仅能生成逼真视频,更能理解重力、碰撞等物理定律。其创新的SOPHIA框架让AI具备自我纠错能力,在物理理解测试中达到80.16%准确率。该技术将推动智能机器人、视频制作等领域发展,为通用人工智能奠定重要基础。
全球最大云服务提供商亚马逊云服务(AWS)遭遇大规模故障,影响政府机构、AI公司和金融平台等众多客户。尽管AWS称已基本恢复,但仍有用户无法连接租用服务器。故障源于关键数据库服务的数字目录故障,导致依赖该数据库的软件无法获取信息而出现连锁反应。受影响服务包括Venmo、苹果音乐、Zoom等数百个网站和应用。
香港大学和蚂蚁集团联合推出PromptCoT 2.0,这是一种让AI自动生成高质量训练题目的创新方法。通过"概念-思路-题目"的三步策略,AI能像老师备课一样先构思解题思路再出题,大幅提升了题目质量和训练效果。实验显示该方法在数学竞赛和编程任务上都取得了显著提升,为解决AI训练数据稀缺问题提供了新思路。