‌·

把大模型“装”进小盒子 云天励飞创新“AI+”路径

来源:南方都市报     2024年03月29日        版次:NA07    作者:程洋

  3月28日,云天励飞举办AI大模型产品发布会,正式发布“深目”AI模盒,给出了自己的答案。据介绍,该产品能够做到“3个90%”——覆盖场景超过90%、算法精度超过90%、使用成本降低90%,解决大模型在场景落地“最后一公里”的问题,帮助更多中小企业客户轻松使用大模型。

  会上,云天励飞还与鹏城实验室、之江实验室、中国电子、华为、华润数科等单位成立“深目2.0”生态联盟,共同探索更多大模型落地应用路径。

  千元级成本即可拥有专属大模型

  云天励飞董事长兼CEO陈宁博士在发布会上提到:未来3年,全球80%的企业都将使用大模型。但是,要训练专属大模型,不仅需要大算力、大数据,还需要大量顶尖人才。大模型一次训练成本在千万级,主流的训推一体机价格普遍在百万元,绝大多数企业都无法承担这样高昂的成本。

  为了能够让大模型“平民化”,成为人人都可用的产品,云天励飞推出了“深目”AI模盒。据介绍,这款产品售价在千元级,用单手就能托起,搭载了云天励飞的自研大模型边缘训推芯片DeepEdge10 Max以及自研多模态大模型“云天天书”,具备算法边缘侧在线学习能力,可实现算法场景覆盖超过90%、算法精度超过90%、使用成本降低90%,让人人都能够根据自身场景需求,利用大模型能力,训练出可实战应用的算法,让大模型唾手可得。

  陈宁介绍,能够实现3个90%,离不开云天励飞的核心能力——算法芯片化。“深目”AI模盒不仅仅是“压缩”了大模型和芯片能力的一款全新产品,把大模型“装”进小盒子,更是把云天励飞大模型通过算法芯片化能力平台“硬件化”的一次重要尝试。把复杂的技术通过简单的产品提供给用户,让用户可以零学习成本,快速训练出自己需要的算法。  

  解决AI在边缘场景中的落地难题

  目前,在大模型的发展进程中,事实上还存在大量低频场景、长尾算法的难题,制约着人工智能在千行百业、在各场景中的落地应用,难以形成商业价值闭环。陈宁表示,小模型的长尾算法成本和周期投入跟大模型的头部算法差不多,由于投入产出比的不匹配,很多客户往往缺乏商业驱动力。

  而从大语言模型到多模态大模型,云天励飞探索出了一条全新的“AI+”路径,基于多模态大模型和自研芯片的深度融合,推出了算法芯片化驱动的边缘设备,能够以更低的成本,统一的一套技术平台去解决多类细分场景的精度不够、成本太高、训练周期太长等问题,推动人工智能在更多的场景和行业中去落地,实现真正的价值闭环。

  陈宁表示,“深目”AI模盒要解决人工智能在边缘场景中的落地问题。他举例说,计算机很早就发明了,但是最早是服务器,到了上世纪七八十年代,家庭也希望用计算机,但是不能把高昂成本的服务器搬到家里来,所以就有了个人PC,能够相对低成本地解决家庭的一系列需求。

  “今天,边缘计算是同样的问题,在边缘端还没有合适的大模型产品之前,小模型又解决不了各类长尾场景的问题,又不能把服务器搬到边缘端来使用,成本太高,功能也不一样,‘深目’AI模盒就是来解决这一系列的边缘问题。”陈宁说。  

  从AI方案化到产品化 打造“AI+”生态圈

  从2014年成立至今,云天励飞一直坚持将AI技术与物理世界相结合,这也是云天励飞从成立之初自研芯片的重要原因。芯片是AI与物理世界的连接器,AI通过芯片为实体赋能,物理世界的数据又通过芯片反哺AI,推动AI进步发展。

  陈宁表示,任何一个新技术的发展,都会经历三个阶段:新技术的方案化、运营化和产品化,AI也不例外。在AI方案化阶段,AI企业主要通过项目制满足不同垂直领域客户需求。在打磨行业标杆项目的过程中,AI企业不断积累行业认知和数据,AI技术实力不断增强,并形成具备越来越强的泛化能力AI平台,企业也得以开启AI运营业务。而最终,所有的技术都需要通过物理实体赋能,因此AI最终必须走向产品化。

  “大模型就让AI的标准化产品成为了可能。而在AI产品化里面,最重要的还是要走到To C端的产品,不管是作为AI Agent载体的人形机器人,还是可穿戴的智能设备,在这些未来重要的载体上面,云天励飞都在探索通过生态合作伙伴,共同去推动和探索已有载体的升级和新的产品形态的出现。”陈宁说。

  陈宁表示,除了过去的AI方案化之外,过去两年在生态建设上通过AI运营化和AI产品化,也在优选生态合作伙伴。比如去年与华为昇腾联合推出天舟大模型训推一体机;如今又推出面向边缘训推场景的“深目”AI模盒。

  “还有一个生态战略,就是我们陆陆续续通过投资并购在可穿戴设备、智能硬件、机器人等领域去构建更加丰富的生态。”陈宁表示,云天励飞就是围绕多模态大模型和AI芯片技术,通过资本纽带、商业模式创新和市场合作,逐步在构建各项业务的生态。  

  文:程洋 制版:李斌 郭红霞 杨润贤

手机看报
分享到:
返回奥一网 意见反馈