新一代芯片与大模型全面亮相,云天励飞世界人工智能大会秀实力
深圳特区报首席记者 闻坤
2023-07-06 14:05

2023世界人工智能大会于7月6日至8日在上海举办。本次大会上,云天励飞带来自主设计开发的新一代边缘计算芯片 Deep Edge10 系列 SoC 芯片,并公布“天书”大模型的最新动态。

大模型与芯片全面亮相

本次世界人工智能大会上,云天励飞展示了新一代边缘计算芯片Deep Edge10系列SoC芯片。该芯片于2022年底成功流片,采用国内先进工艺,支持多芯粒扩展的Chiplet 技术,可提供 12TOPS(INT8)整型计算和 2T FLOPS(FP16)浮点计算的深度学习推理计算算力,满足市场对处理芯片在算法的多样性、准确性、算力密度及效能方面的要求,可广泛应用于AIoT边缘视频、移动机器人等场景。预计今年量产投入使用。

此外,云天励飞还在大会上首次披露大模型“云天天书”的情况。据介绍,“云天天书”基础大模型架构包含三个层级:通用大模型、行业大模型、场景大模型。基于“云天天书”大模型,云天励飞与深圳龙岗政数局共同探索了大模型在政务咨询服务系统的应用。通过对海量的政策、法规、办理流程等文本进行结构化梳理和分析,形成易于查阅的知识库。帮助服务人员快速查询和获取准确的信息,减少查阅时间,提高政务服务工作效率。目前该系统在行政服务大厅探索应用,未来计划逐步拓展到其他政府机构和公共服务领域,如法务、金融、教育、医疗、交通等。

云天励飞与龙岗政数局合作探索打造的“大模型政务咨询服务系统”还入选了中国信通院《通用人工智能创新应用案例集》。

“算法芯片化”能力加速AI落地

据现场工作人员介绍,云天励飞核心能力是“算法芯片化”。所谓“算法芯片化”不是“算法+芯片”,而是云天励飞基于对场景的深刻理解,以及对算法关键计算任务在应用场景中的量化分析,将芯片设计者的理念、思想与算法相融合的AI芯片设计流程。

这一理念同样在本次展出的 Deep Edge10芯片和“云天天书”大模型上有所体现。DeepEdge10可为大模型在边侧推理场景提供充足算力,可以解决大模型应用和部署过程中的各类挑战,包括新的神经网络计算范式、高带宽传输、分布式并行计算、低精度混合计算等,能够为大模型和实际应用场景嫁接起桥梁,让大模型技术能够高效、低成本地部署到终端,帮助场景探索更多大模型的创新应用。

“应用产生数据、数据训练算法、算法定义芯片、芯片赋能应用”——这是云天励飞一直以来坚持的人工智能发展之路。基于这个思路,云天励飞于2020年正式提出“自进化城市智能体”的战略目标。在战略目标的指引下,云天励飞已经在深圳、东莞、青岛、成都、杭州、上海、北京等多个城市实现项目落地,成功打造了一系列标杆式项目。

值得一提的是,2021—2023年深圳市政府工作报告连续3年提及要建设“鹏城自进化智能体”。今年6月发布的《深圳市数字孪生先锋城市建设行动计划(2023)》也明确提到“围绕分步有序建设鹏城自进化智能体,推进以数字孪生为特点的深圳智慧城市和数字政府建设。”

与中国电子联合展示“AI国家队”实力

本次云天励飞展位在中国电子展区内,作为中国电子信创产业的一部分亮相。

据了解,云天励飞是中国电子主导的“自主安全计算产业生态链”的重要支撑单位。目前,云天励飞与中国电子已在信创产业生态链的诸多领域展开合作,包括与中国电子飞腾CPU、麒麟OS操作系统完成适配兼容,联合推出飞腾机器视觉系统联合解决方案,以及基于公司AI芯片打造的中国长城台式机立体指静脉生物识别模组、智能工控盒子等硬件产品。

另外,在以IP为基础的人工智能平台生态合作方面,云天励飞2022年与国内头部的AIoT芯片设计厂商、智慧汽车芯片设计厂商、服务机器人厂商、国家重点实验室等形成了合作,提供公司的最新一代人工智能处理器NNP300的IP授权,由下游厂商进行面向行业的人工智能芯片设计和生产。

据介绍,WAIC期间,云天励飞还将与中国电子云、中国电子技术标准化研究院、中国信通院、华为昇腾联合发起一系列人工智能与大模型相关的生态联盟,与行业内头部企业与机构一起,共建健康、有序的人工智能发展环境。

(受访单位供图)

(原标题《首展大模型、亮相新一代芯片,云天励飞世界人工智能大会秀实力》)

编辑 刘悦凌 审读 刘春生 二审 郑蔚珩 三审 陈晨

(作者:深圳特区报首席记者 闻坤)
免责声明
未经许可或明确书面授权,任何人不得复制、转载、摘编、修改、链接读特客户端内容
推荐阅读
读特热榜
IN视频
鹏友圈

首页