入口和粘性决定大模型应用成败!小米场景天然,秀技术参数没意义|小米栾剑@MEET2024

杨净 发自 凹非寺
量子位 | 公众号 QbitAI
小米要做的不是行业所说的通用大模型,也不是垂类大模型。
而是场景大模型!

小米集团技术委员会AI实验室大模型团队负责人栾剑,在MEET2024智能未来大会上,透露了小米大模型独有的方法论。

作为大模型应用的先行者、率先在手机端跑通大模型的小米,早早将轻量化和本地部署作为自身大模型应用突破点。现场栾剑表示将大模型搭载到硬件设备里面去充当大脑,是件很酷的事情。

面对当下大模型发展趋势, 他坦言:从技术参数上秀肌肉已经没什么意义,接下来应该回归到怎么应用。而大模型应用成败的关键,栾剑认为主要在两个关键点:

一是流量入口,二是用户粘性。

为了完整体现栾剑关于大模型的研发和应用思考,量子位在不改变原意的基础上,对他的演讲内容进行了编辑整理。

关于MEET智能未来大会:MEET大会是由量子位主办的智能科技领域顶级商业峰会,致力于探讨前沿科技技术的落地与行业应用。今年共有数十家主流媒体及直播平台报道直播了MEET2024大会,吸引了超过300万行业用户线上参会,全网总曝光量累积超过2000万。

演讲亮点

小米科技战略总结成公式就是(软件×硬件)AI ,这是科技行业第一家将AI放在指数位置上的公司。我们认为AI是全新的生产力,会对未来软硬件产品发展和变化带来深刻影响。假设我们将大模型作为硬件设备的大脑,搭载到硬件设备里面去,这将是件很酷的事情。小米要做的,不是通用大模型、垂类大模型,而是场景大模型。轻量化和本地部署是小米大模型突破点。大模型有三个要素,分别是大数据、大参数、大训练任务。大模型从技术参数上来秀肌肉我觉得没什么意义了,接下来应该回归到怎么把大模型用好。云边端结合是将来大模型发展而一条重要途径。要实现云边端的结合肯定离不开软件层面上打通。大模型应用成败两个关键点:一个在流量入口,另一个在用户粘性。主动智能是小米澎湃OS非常重要的亮点。小米全新升级的「人车家全生态」战略,为大模型的应用搭好了舞台。

首家将AI放在战略指数位置的公司

今天跟大家分享一下小米大模型的研发思路,以及大模型在小米接下来可能的应用场景。

今年8月份,小米宣布了自己的科技战略:深耕底层技术,长期持续投入,软硬深度结合,AI全面赋能。总结成公式就是(软件×硬件)AI。

作为科技行业第一家将AI放在指数位置上的公司,我们认为AI是全新的生产力,会对未来软硬件产品发展和变化带来深刻影响,所以一定要重视AI、投入AI,这也是将小米打造成硬核科技公司的必由之路。

AI既然这么重要,小米AI上的积累有哪些呢?今天就来简单回顾一下。

早在2016年,小米内部创建首个专注AI的视觉团队,主打为手机拍照服务。随后成立了语音声学、人机对话、知识图谱等一系列AI团队,小米AI实验室应运而生。

经过两年多努力,小米所有产品都用上自研的AI技术,当业务部门需要支援时,我们也能派出大量专家帮助快速组建技术团队。发展到今天,小米各个部门都散布着我们的AI工程人员。

从另一个维度看,小米在技术上的投入近几年持续高速增长,最近几年复合增长率达到38.4%,今年我们的投入会达到200亿元,最近5年(2022-2026)会投入到一千个亿。这是非常可观的一笔投入,说明我们技术团队在持续成长,也说明我们践行小米科技战略的决心。

今年提到AI一定绕不开大模型,今年4月份小米宣布成立大模型团队,将轻量化和本地部署作为小米大模型突破点。

不少同行来问背后的原因。

首先看小米的特色。小米有各种各样的硬件设备,今天小米是全球最大消费级IoT平台。截至今年三季度,小米IoT平台已连接设备6.99亿,5台以上的小米设备用户达到1370万。

假设我们将大模型作为硬件设备的大脑,搭载到硬件设备里面去,这将是件很酷的事情。

比如有台扫地机器人,大概率我们不会跟它聊天,不会让它帮写小作文,但它需要路径规划、躲避障碍物以及判断什么地面需用什么方法清洁。

将这种能力总结一下,可能并不是行业所说的通用大模型,也不是垂类大模型,而是场景大模型,这也是小米特别关注的以及所要做的。

我们认为,大模型有三个要素,分别是大数据、大参数、大训练任务。哪个要素才是大模型产生涌现能力、泛化能力的关键?我们做了一些实验。

今年8月份发布的两个大模型,参数量分别在13亿和60亿,并在中文的两个主要榜单上做了测试。其目的是验证端侧大模型(参数不那么大)通过定制和优化,是否能在目标场景中达到媲美云端大模型效果。

第二步,是验证端侧大模型是否能在手机上正常运行,达到用户真实使用条件要求。10月,小米在高通骁龙8Gen 3芯片上基于NPU在手机端跑通60亿参数模型,生成速度和功耗完全满足正常使用的要求。

到这一步为止,我们把大模型搭载到设备端的设想得到全部验证。从技术参数上来秀肌肉我觉得没什么意义了,接下来我们回归到怎么把大模型用好。

目前AI大模型技术应用已经深入小米全系统,包括实时字幕、小爱输入助手、图像生成与搜索等技术等。大模型在端侧上的功能探索只是刚刚开始,使用价值绝对不仅止于此。

主动智能是小米澎湃OS非常重要的亮点

接下来展望一下大模型在小米会发生什么变化。

前面提到,将大模型作为大脑放到智能设备里去,就能独立完成一些简单任务,但在复杂条件下,可能还需要同场景多设备协同。

这时候一个设备就完成不了了,请求会上升到边缘设备。边缘设备就是一个场景里算力和存储能力最强的设备。通过这台设备协同场景下所有智能设备帮我们一起完成。当请求变得更为复杂时候,需要跨场景,这时候请求就需要上升到云端了。

这样做的主要目的是什么?

大模型服务成本很高,用户使用成本也很高。我们做分布式计算,尽量把计算放到边缘侧,放到端侧,这样让用户使用成本降到最低。

存储也是基于同样的考虑,用户数据,也是能放到端侧就放到端侧,能放到边缘侧就放到边缘侧,这样也是最大程度地从物理上保护用户数据的隐私安全。

云边端结合是将来发展的一条重要途径。要实现云边端的结合肯定离不开软件层面上打通。

小米近期发布的澎湃OS操作系统,就是为了万物互联而设计,我们在澎湃操作系统里有个AI子系统,它是个思考中枢。

如果将智能设备比喻成小动物,这个智能中枢就可以理解成驯兽师或魔法师。通过智能设备延伸它的感官,充分采集用户所在环境的信息。获取信息之后,再由Xiaomi HyperMind做思考判断以及规划,再将指令下发到需要执行的智能设备上,让它们协同完成任务。

更重要的是,Xiaomi HyperMind是有学习能力的,除了被动地完成用户的请求以外,还能在用户使用一段时间以后了解到用户的使用习惯,产生与用户的默契。在它发现当前场景和以前某个场景比较相似的时候,会主动地做一些用户建议并提供一些服务。

主动智能也是小米澎湃OS非常重要的亮点。

今年我们将小米集团战略从手机xAIoT升级到「人车家全生态」,为大模型的应用搭好了舞台。

可以想象一下,每台智能设备上面都有符合它自己能力的大脑,能够独立完成任务。他们通过小米澎湃OS互联互通到一起,然后通过Xiaomi HyperMind控制它们。我们通过云边端架构为用户提供最经济安全的服务,这是个非常了不起的框架,我们希望用3-5年将框架填满。

大模型应用成败两个关键点

最后聊聊关于大模型应用,大家都在探索一个问题:大模型应用成败关键是什么?我个人抛个砖,我认为所有应用可能都有两个关键点:一个是流量入口,一个是用户粘性。

大模型流量入口在哪里?最开始大家觉得是行业应用,还是需要点开APP用大模型赋能,后来发现大模型自己可以成为一个入口,通过调用API来完成复杂的任务。

刚才说了大模型可以跟操作系统深度融合。归根到底操作系统需要一个硬件,大家不可能跟空气交互,一定要找到硬件,硬件才是入口,而小米绝对不缺硬件。

第二个用户粘性。打个比方,当一个城市开通第一条地铁线时,大家可能会觉得很新鲜很好奇,但可能不会特别依赖它;但当它形成一个无处不在的网络时,大家对地铁的依赖成长起来了。

大模型现在就是这样的情况。现在大模型的主要使用方式还停留在简单的文字交互,我们要探索的是让大模型怎么无处不在地融入大家日常生活。

小米已经搭好了人车家全生态的平台,非常欢迎大家一起来共同建设,把大模型的应用做好。

最后回顾一下小米的科技理念。我们要选择对人类文明有长期价值的技术领域,并坚持长期持续投入。

而以大模型为代表的AI,我认为就是对人类文明有长期价值的技术领域。

我们要坚持投入,无论外界舆论发生怎样的变化,无论技术上出现怎样的挑战,我们都要保持战略定力,我们要坚韧乐观,用最前沿的技术提供最优质的产品和服务,希望让更多朋友们能够通过小米的产品体验到科技带来的美好生活。

我今天就讲到这里,谢谢大家。

—完—
@量子位 · 追踪AI技术和产品新动态
深有感触的朋友,欢迎赞同、关注、分享三连վ’ᴗ’ ի ❤

​ 

Read More 

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *