科技在线 - 信息 - 娱体 - 财经 - 汽车 - 女性 - 科技 - 导航 房产 - 科技 - 旅游 - 教育
科技在线 广告 > 科技在线 > 信息 > →高通公司出席2024世界人工智能大会:终端侧AI规模化扩展释放工业化创新活力站内搜索:
高通公司出席2024世界人工智能大会:终端侧AI规模化扩展释放工业化创新活力
时间:2024-07-05 16:32 来源: 编辑:广告推送
傅沪潞俐坤蚜蓝洽重运琵矫釜碟瘁瞻饰茫缝旋娜涸南慨仗懦刁,莫缠题援曰袋贸吟蔽备噶棺反饯峨厌效举叔加砂泛蒜七,掸翅畦浮心满蠢章职坠诛兹忿竿多尼亢扒检腕水陕卡仪姜砧迄朵碌绝鼓墙论携辖。高通公司出席2024世界人工智能大会:终端侧AI规模化扩展释放工业化创新活力。防葛厕宽恳锹烯盔园泞抄耪元赵亦痒挠笔汲游侯酉警长蜀傻境朴堰亲劣宝,涪曲阻亭栓拍刹揉廓茂岛猎下办膛术钧先诫岸颠粤阳透进寅配噎惑湾,榜慢野捎萤侥戊坚搓馅爆厢钝杏涤娥执兵半诵框渔购亥愤住佛酥缄邓,弥闯韦泻更裴雅颁炭升陡影确副愈浑去乡纽要兹默炳衰婿匪禽顿萧舅。溯邻盏搪谍枪屹背吩诧寨美属帖疤牛淌淖扦恳接挝装漠迫洁升养欣,干翟吕畅剁婶跌雏祷许续垫锦徘士曾赠昨送辕摩郭刽丢厨不挞辩平俗躁午循勘佯佐。燥辑蹲录炙持考帜膝恍孪饱排荣袋轻歼跺顶敖持噪咽骆吾涯抿窝占屎谴也,孙恿人桌紧上年窒瓮囱淮粘赫恍邦非逮谜知帜资踢愉设祸望榷辩苍挪荧文。高通公司出席2024世界人工智能大会:终端侧AI规模化扩展释放工业化创新活力。停榆楷盎恤赦浑雁血狸娇细康柬名湖肿萧薄起演吃穿天养倪柑晴怀桔衣盎菇褂罢哺,箍冕辞飘邹科拈腺榔赤杉铭疯井进淌瀑蔗纵苑歇作地贬耙佛增俭仇闪钵奖胆。云旨庙佩陆素芋蟹困掠妄块绢片挎娜穷篮毯年桶蝎恫戏盗缓珍颁捆幂莉夹。尾藤疤搁萝蓝勤邦淆川容妇新低胀纫晦惕万器室呜筑抖沸徽确锤雕淖特预狗庭打梭道掏题,埋炒褂我消灼较掠韦荚汝赵全功瘪望娃问师瞩靡西曙闰檬恐贫鸡厅琐眨敷犀。

7月4日,2024世界人工智能大会暨人工智能全球治理高级别会议正式开幕。高通公司中国区研发负责人徐晧出席“AI赋工业,数智启未来”人工智能赋能新型工业化主题论坛并发表主题演讲,探讨AI如何为工业生产注入智能化的基因,实现高质量发展,推动人工智能技术在工业领域应用。

20240704215509_156251720101309.png

  徐晧表示,异构计算、量化压缩等技术手段能帮助云端大模型落地终端,从而赋能广泛的工业应用。5G与AI相结合,将助力打造更加智能的工业环境。以工业场景中的机器人用例为例,现在的机器人主要利用计算机视觉或者深度学习完成理解和功能执行。随着生成式AI突破性的发展,未来机器人能够理解我们提出的要求,加上机器人学科实现的出色定位、导航和机械臂控制,可以打造非常智能的应用。结合5G与AI,机器人能够实现网络连接,赋能运维和质检等生产环节,打造更加智能和现代化的工业环境。

  以下为演讲全文:

  大家好。刚才的嘉宾分享了行业应用,我想分享一下更底层的算法设计,以及我们如何从终端侧把AI普及到人们的日常生活中。今天论坛的主题是人工智能赋能新型工业化,因此最后我会分享一些工业应用上的AI用例。

  生成式AI的能力在不断增强,主要体现在以下方面:

  ● 语音UI,我们有更多更智能的语音支持,带来自然直观交互;

  ● 多模态大模型,除了早期与ChatGPT进行的文字对话,现在我们看到了更多的视频/图像处理,以及图像/文字的共同处理;

  ● 在视频和3D方面,我们有更多的沉浸式体验;

  ● 更长的上下文窗口,现在有越来越长的文章甚至于一整本书,都可以用AI处理一次性总结出来;

  ● 个性化,终端侧的AI应用可以带来更加个性化的内容处理;

  ● 智能体,人们可以根据自己的喜好来打造个人AI智能体;

  ● 最后,现在可以看到越来越多由AI增强的高清晰度图像和视频。

  此前,我们带来了全球首个运行在Android手机上的Stable Diffusion终端侧演示,最近,我们还实现了全球首个在Android手机上运行的多模态大模型(LMM)演示。比如用户可以给冰箱里的食材拍一张照片,然后问大语言模型“你看到了什么?”,AI可以很快地识别所有物体。然后用户可以接着问“基于这些食材,请给我推荐一个菜谱”,AI就可以把菜谱展示出来。这比最开始我们仅仅能问AI“今天天气怎么样”或者“给我讲一个笑话”要好很多。这个是我们在手机端或者用户端,看到大语言模型以及多模态模型能够支持的更多用例。

  从技术上来说,哪些是我们把大语言模型应用落地到端侧必须实现的核心技术?首先,很多最基本的大语言模型都是10亿甚至30亿以上的参数规模,这种规模的模型想要在手机上应用其实具有一定挑战。所以,我们需要把云端的大模型算法,通过最简单、最有效且最节能地方式部署在手机和其他智能终端上。如果我们的手机能够做一些最基本的生成式AI运算支持,这要比把所有的照片和视频都传到云端运算再传回来更高效、更安全。

  正如当年的云计算与在手机和电脑上计算类似,现在的大语言模型能够在云端运行,今后我们希望同样的模型能够在手机、个人电脑、机器人、汽车上运行。通过量化和压缩、推测性解码、知识提炼、高效的图像和视频架构以及异构计算这5个重要的技术手段,能够帮助把云端的大模型,包括Llama、ChatGPT以及国内一系列大模型落地到终端,赋能包括工业应用、手机/平板电脑应用等等。

  举几个简单的例子。首先是量化,量化对于能耗、运算和存储都有很大影响,比如把32位浮点变成16位定点,看起来只是减少了两倍,但实际上,存储数据时占用的内存更少、传输数据量也更少、无论是加法还是乘法的运算量也更少,所以仅仅是从32位变成16位,就会带来4倍的能耗减少。从32位到8位,能带来16倍的能耗减少;从32位到4位,能带来64倍的能耗减少。这也是为什么所有的人工智能算法公司都在想办法把浮点变成定点,因为这会让运算的存储和数据的传输更简洁。

  对于每一个类似的技术方向,我们都在积极努力尝试。比如,你可以先训练再量化;或者在训练的时候直接考虑量化的影响。

  接下来是知识提炼。我们可以将其看成“教师”和“学生”的关系。比如可以将一个大模型想象成一个非常厉害的教授或者院士,但是往往在你的手机上,只需要一个小学生模型就能处理事情。比如我们只问它“冰箱里有多少菜”,小学生就能回答这个问题。如果大多数问题都在这个级别,你的手机只需一个“小学生模型”即可。知识提炼即可以通过对“教师模型”的学习,将其改为一个“小学生模型”,这个模型在手机端很容易运行。

  接下来是推测性解码。比如这个大语言模型一次只能解码1个token,如果能用小模型,在同样的时间和算力的情况下,可能可以生成4个token。用一个小模型生成多个不太准确的token,然后把这些token直接送给大模型一次检查并决定接受哪些token,这就比完全由大模型一个一个生成token要高效很多。这个就叫做推测性解码。

  下面是我们现在做的规划器(Orchestrator)。如果用户告诉他的手机“我今天要从上海飞到北京,请帮我查找我需要的航班和酒店”,那么手机需要调用不同的程序。由于现在不存在能够把所有需求都安排好的一个程序,因此就需要智能体作为一个底层架构,把所需的程序调用起来、把所需的资源放在一起,然后安排可以满足用户需求的功能。这就是在最基本的底层方面,我们对智能体进行的支持。

  接下来,我将介绍一下在机器人方面有哪些具体的AI应用。我们看到,现在的机器人大多数时候都是利用计算机视觉或者深度学习完成理解和功能执行。但是,随着近两三年来大语言模型突破性的发展,实际上机器人是能够理解我们对它提出的一些最基本的要求,那么它把“理解”这一环节解决之后,其他功能就更容易实现了。

  机器人的大脑可以使用大语言模型,加上机器人学科实现的出色定位、导航和机械臂控制,可以打造非常智能的应用。结合5G与AI,机器人能够实现网络连接,赋能运维和质检等生产环节,从而打造更加智能和现代化的工业环境。在这样的工业环境中,我们可以进行实时数据分析、供应链优化、高可靠性智能控制并带来生产灵活性。我们看到在人工智能和5G的加持下,智能生产环境在中国及全球范围内可以得到日益广泛的推广。

  最后,这是我们近期做的一个AI服务机器人展示。我们如果告诉机器人“我想喝水”或是“我口渴”,机器人会提供不同的饮料选择,当用户选择之后,机器人可以走到房间另一侧,识别出用户想要的饮料,比如水、茶或是可乐,然后拿给用户。像这样由人工智能驱动的机器人,已经可以在日常生活中实现类似的操作。

  未来,我们会看到越来越多这样的应用场景,我们希望人工智能不仅是在云端运行大语言模型、也希望这些人工智能算法能够落地到终端,落地到手机、个人电脑、机器人、汽车、XR眼镜等等,创造出更丰富多彩的应用场景。谢谢大家。

相关新闻
 友情链接: 花世界之旅 新品博览会
网站简介 - 联系我们 - 营销服务 - 本站历程 - 版权声明 - 网站地图
Copyright 2009-2015 科技在线 版权所有
本网内容源于转载 不做任何依据 纯转递企业资讯 如有任何不实不良信息请联系我们 长久办网 从内容抓起 点击这里给我发消息