2024年5月22日,福布斯中国在上海浦东香格里拉大酒店隆重举办了2024福布斯中国人工智能科技企业峰会。在此次盛会上,爱芯元智凭借其卓越的技术创新和市场影响力,从众多竞争者中脱颖而出,成功登上福布斯中国人工智能科技企业TOP50榜单。这一殊荣不仅是对爱芯元智在人工智能领域所取得成就的高度肯定,也标志着其在推动智能科技进步和普惠方面的领先地位。
公开资料显示,爱芯元智半导体股份有限公司成立于2019年5月,致力于打造世界领先的人工智能感知与边缘计算芯片,拥有爱芯智眸AI-ISP和爱芯通元混合精度NPU两大核心自研技术,广泛服务于智慧城市、智能驾驶、机器人以及AR/VR等巨大的边缘和端侧设备市场。
其中,爱芯元智混合精度NPU“爱芯通元”正式亮相于去年7月,其第三代人工智能芯片AX650N在端侧和边缘侧部署Transformer的领先优势公之于众。这款NPU采用多线程异构多核设计,专为高效支持混合精度算法而打造,原生支持Transformer网络结构,为大模型在边缘侧和端侧的应用提供了坚实的基础。爱芯通元混合精度NPU以算子为原子指令集,可编程数据流架构,实现算子、网络微结构、数据流和内存访问的优化,大幅提升了能效比。其在运行SwinT模型时,量化精度达到了高于市面平均水平的80.45%,并且具有416 FPS的高性能和199 FPS/W的低功耗表现,显著领先于同类产品。此外,爱芯通元NPU还提供了成熟易用的编译器,极大降低了AI软件的开发和部署成本,使客户能够在一小时内快速上手,推动AI计算的蓬勃发展。
爱芯元智自研的爱芯智眸AI-ISP结合爱芯通元混合精度NPU,颠覆了传统图像处理技术,不仅极大提高了AI识别率,还解决了低照和宽动态成像的难题,实现了黑光全彩成像,并显著降低了设备的综合成本。
截至目前,爱芯通元NPU完成了多个主流大语言模型的适配,包括Llama 3、Phi-3-mini、Llama 2、TinyLlama、Phi-2、Qwen1.5和ChatGLM3等,在高效支持复杂AI任务的同时,确保了大模型技术在端侧和边缘侧的普及。AX650N对Llama 3 8B Int8版本的适配以及Int4量化处理进一步提升了每秒token处理数,满足了流畅的人机交流需求。这一系列突破源自爱芯元智团队对NPU工具链的持续优化,确保了大语言模型在其平台上的高效运行。
作为AI处理器,爱芯通元NPU通过在不同精度级别上分配计算任务,提升硬件利用率和计算吞吐量,缩短AI-ISP在图像信号处理中的推理时间,实现实时或近实时的图像分析和理解。其系统级集成设计简化了架构,减少了数据传输开销,提高了整体系统的集成度和效率。爱芯通元NPU还支持混合精度计算,使高精度模型可以经过量化后在低精度模式下运行,增强了AI-ISP对预训练模型的兼容性,便于快速部署和更新算法。
爱芯通元NPU不仅实现了在端侧和边缘侧高效部署AI大模型的目标,还通过减少内存墙和功耗墙的阻碍,在有限的面积和功耗下提供了更高的有效算力。这一突破性进展将大大降低AI部署成本,使更多行业能够受益于先进的人工智能技术,加速智能助手在终端设备上的普及,推动AI技术在智慧城市、智能驾驶和AIoT等领域的广泛应用。爱芯元智的创新不仅体现了其在AI芯片领域的领导地位,也展示了其助力各行各业实现智能化转型的坚定承诺。
爱芯元智的创新不仅体现在技术上,也体现在其市场应用中。爱芯元智的前端IPC芯片已成功移植并优化了市场上主流算法,实现了与后端芯片的无缝对接,并与成熟的算法厂商深度合作,打造出易于复制、快速部署的解决方案。
在创新的征途上,爱芯元智将继续秉承“普惠AI造就美好生活”的理念,深耕AI技术,不断推动端侧和边缘侧的智能化、精准化和高效化。随着5G技术的普及和物联网(IoT)设备的增多,端侧AI的应用场景也在不断扩展。从智能家居到工业自动化,从智能交通到智慧城市,端侧AI正在成为连接物理世界和数字世界的桥梁。爱芯元智也将致力于构建开放、合作、共赢的生态系统,与各方伙伴携手,共同开拓AI技术的无限可能,为各种智慧应用场景提供强大的底层技术支持,助力全社会智慧愿景的实现。
好文章,需要你的鼓励
本文探讨了AI驱动的网络攻击如何在短短51秒内突破网络防线,并介绍了CISO们应对这些超高速攻击的策略。重点包括零信任架构、身份验证强化、AI驱动的实时威胁检测等。文章强调了迅速撤销会话令牌、统一端点和云安全、以及从恶意软件检测转向凭证滥用预防的重要性。
Lovelace Studio 正在开发名为 Nyric 的 AI 工具,帮助玩家在生存制作类沙盒游戏中打造自己的游戏世界。玩家可以使用 AI 工具创建独特风格的世界,并与其他玩家互动。该工具旨在赋予独立创作者和社交玩家更多能力,让他们能够轻松构建和连接自己的虚拟世界。
随着AI代码生成工具的广泛应用,企业面临着新的挑战。AI生成的代码可能存在安全漏洞、架构问题和合规风险。为此,企业需要实施严格的验证流程,认识AI在复杂代码库中的局限性,理解AI代码的特有问题,要求开发人员对代码负责,并建立高效的AI工具审批机制。同时,专门的代码分析工具也变得不可或缺。
AI 语音克隆技术的滥用正日益成为企业面临的重大安全威胁。近期多起高调事件显示,不法分子利用 AI 生成的虚假音频视频进行诈骗。目前许多语音克隆应用缺乏有效防护措施,企业领导人的公开音频很容易被用于克隆。专家呼吁采取多因素认证等措施加强防范,并预计未来将出台更多监管措施和检测技术来应对这一威胁。