明敏 发自 凹非寺量子位 | 大众号 QbitAI
为什么是时分换一台AI PC了?
何川想到的是20多年前的一次考试突击,要是其时有AI就好了。
由于记错了第二天的考试科目,清华学霸也不得已在考试前夜点灯熬油从头学习一门课程。
假如有内置大模型的电脑,一本电子教材输入进去,把全部重要常识点列成提纲,我只需把这些内容背好就没问题了。
更直接的改动是当下的作业日子。
总结挑选邮件、做报告PPT……这样琐碎的作业,假如AI来做,人就能被解放出来。
现已在用AI辅佐作业的郑爱国慨叹, “一台PC的价格,相当于有一个个人助理,何乐而不为呢?”
或许有人会问,云端大模型不能做吗?为什么必定需求一台AI PC?
由于核算要在本地、要构建个人常识库、要隐私维护……愈加完好的答案跟着最新AI PC的全面出售,现已向全部人出现。
而关于AI PC的必要性与否,或许从此将不再是最抢手的评论论题。取而代之的是,是不是该换一台AI PC了?
为什么对AI PC能够愈加必定?这个在一年时刻内快速诞生的新物种,又是怎样被造出的?
从真实含义的AI PC本身看起。
何故AI PC?
怎样一台PC才干被称之为AI PC?
最根本的界说是将大模型引进电脑本地,经过生成式AI进一步拓宽PC的才干。
从各大厂商的实践动作来看,第一波上机的AIGC运用会集在3大方面:
AI辅佐创造(绘画/案牍生成等)AI辅佐作业(PPT生成/会议纪要/才智兼顾)日子帮手(常识问答/本地查找等)比方AI绘画方面,高通、英特尔的最新PC芯片均已支撑Stable Diffusion的本地运转,而且在生成速度上打开比赛。
联想的AI PC中已具有AI画师才干,它支撑文生图、图画练习和深度修改等功用。
作业场景中,打工人最关怀的PPT生成方面,联想首先在本地完成。
只需一句话,它就能依据上传的文档资料生成PPT纲要。
再依据纲要内容,一键排版布局,生成十几页PPT。
还有本地文件查找和收拾,也是现在AI PC上的抢手功用。
微软才发布的AI强化版Windows 11,支撑经过天然语言查找的方法“回想”任何文件或网页阅读记载。
联想做的更彻底,依托内嵌于AI PC的个人常识库,可完成对个人文档的精准辨认和学习,并依据本地大模型完成多模态文件内容总结和概括,包括PPT、图片、文字和邮件等。
换言之,哪怕一次都没看过、没有阅读记载的文档,它能学习和总结。
总结来看,要将个人电脑AI化已成为业界一致。
不过各家对AI PC才干鸿沟的界说、各自技能道路各有不同。根本上能够分为两派,着重交互首要在云端进行仍是在本地进行。
前者的代表有微软等。
它前不久刚刚发布新一代Copilot+PC,接入GPT-4o供给各种实时AI才干。能够在打游戏的时分和AI对话,实时翻译字幕、以及上文说到的recall anything等。其改造首要表现在系统层面,一同端侧也深度集成了40多个AI模型 ,使得Copilot具有更强壮的AIGC才干。
后者的代表为联想。
它提出的AI PC五大特性中,简直每一点都聚集于AI的本地化运转布置:
内嵌个人大模型与用户天然交互的智能体个人常识库本地异构AI算力敞开的人工智能运用生态个人数据和隐私安全维护其个人智能体联想小天,由嵌入本地的天禧大模型驱动,不联网情况下也能运用,可完成即时呼应、简直无推迟。一同联想还进一步着重了AI PC的个人化体会,联想小天具有自我学习和生长才干,能够经过日常互动不断学习和了解用户偏好,以此供给愈加精准和个人化的服务。
一同,经过加强对个人数据和隐私的维护,能进一步缓解用户的隐私安全焦虑。也能够更进一步保证智能体是私家化、特性化的,一直为某一用户供给专属服务,让用户无需担忧终究是自己主导PC/智能体,仍是无形中被AI读取意图、变相操控。而当用户想要体会愈加丰厚的AI功用时,还能依托敞开的AI运用生态拓宽体会。
如上两种道路,结尾相同都是AI PC。差异在于详细途径极具厂商本身特征。
微软的方法更偏重软件层的重塑,着重出产力的改造。微软界说Copilot+PCs为“Windows笔记本电脑装备内置AI硬件并支撑整个操作系统的AI功用”。Copilot、Recall以及一系列APP的晋级构成一场功率改造,AI的东西特点被拉满,但并未着重太多特性化体会。
联想从它拿手的硬件维度动身,在底层核算、系统架构上为内置大模型做出一系列更为 彻底的调整和重构,也能让PC本身愈加习惯AI化的操作系统。而且差异于Copilot的东西特点,联想智能体小天更像一个私家助理。
不过相同的是,不管哪种道路都意识到造一台AI PC不仅仅“把大模型暴力装进PC里”罢了。
这或许也是为何AI PC概念大火一年,能真实将大模型放进PC本地的产品寥寥,面向一般顾客开售的产品更少之又少。
但就在这周,联想AI PC AI元启版现全面开售。一般顾客走进线下门店,即可体会真实含义上的AI PC。
为何联想的动作如此之快?
数十年职业堆集、长时刻重视前沿技能、完善供应链……全部的全部,都要从联想决议做AI PC的第一天说起。
AI PC怎样造?
在大模型年代之前,做一台新款PC将会是一个至少为期1年、十分谨慎的流程。
前期界说产品需求小半年时刻,分为Gate A/B/C三个流程,A阶段发散、B阶段收敛,进一步验证商场潜力后到C阶段,这时产品形状根本现已确认。
之后进入开发阶段,不会进行特别大的改动,只能进行微调。整个产品的迭代周期都是以年为单位。
可是在大模型浪潮到来后,答案将产生翻天覆地的改变,由于要做的是一台AI PC。
做AI PC最大的不同是什么?
在联想内部最早拉起AI PC项意图何川觉得,造AI PC便是边造车边筑路。“曾经联想只担任‘造车’,现在还要筑路,保证车能开下去。”
一系列的问题被摆在面前:怎样给PC本地内置大模型?PC添加哪些史无前例的AI功用?
这些其实都是后话了,最开端最首要的难题,其实是终究要不要做AI PC?
何川确认AI PC有必要要做的时刻点是在2023年头。
其时ChatGPT现已引爆AIGC趋势,各种以生成式AI为中心的玩法、demo层出不穷。其间,增强出产力是首要玩法之一。
作为联想集团智能消费事务产品规划高档总监,何川和PC研制打交道现已有二十余年,他立马意识到AIGC的这一特性与PC作为出产力东西的定位,特点彻底重合。
而且PC有必要要enable AI,不然将被筛选。
从立异维度来看,生成式AI归于破坏性立异,它具有的许多才干,比方文生文、文生图等,都逾越了人类大脑的才干范畴。
假如PC——这个人类最常用的出产力东西不进行AI化改造,它将很或许被AI大潮吞噬、筛选。
无独有偶,联想全球中小企业产品与处理计划总司理郑爱国也时刻重视着AIGC趋势的走向。在ChatGPT爆火之初,他便开端调研大模型落在PC上的或许性。但由于前期阶段以云端大模型为主,参数规划都在千亿等级,很难完成本地化运转,他不得不将这个主意暂时放置一旁。
直到和微软的一次协作沟通,让他验证了自己的主意,而且看到了AI PC的或许。
郑爱国回想,在上一年4月左右,微软提出,期望在本地构建一个算力可达40TOPS的NPU。
以往微软从来没有如此深化底层技能产品的界说。
但40TOPS算力也不行用啊。其时趋势里,咱们都还在卷参数量。直到偶然间得知,智谱正在做600亿参数的模型,也便是开端紧缩模型了,郑爱国立马反应过来,微软界说的40TOPS NPU,便是要把大模型蒸馏剪切后放到PC上。而且如此长时刻的预备,必定是“大事”、必定是翻天覆地的改变。
郑爱国也是在这时清晰,未来大模型会来到终端本地。
对应其时的趋势,大模型风头正盛,算力焦虑也愈加显着。ChatGPT宕机溃散的音讯,让更多人意识到云端算力的严重。PC等个人核算设备,成为分摊算力压力的最好挑选。
包括在2024 CES上,吴恩达的观念也进一步佐证了AI PC趋势。
在你的笔记本电脑、个人电脑或工业 PC 上运转边际人工智能,这方面的才干实践上比大多数人以为的要好得多。我以为这将推进许多设备的出售,也将推进许多核算机科学的开展。
但要做AI PC,终究该怎样做?
依照产品开发的流程,需求清晰产品的方针、定位、功用。这就还要回到大模型本身看起。
大模型作为强AI,具有更强壮的了解生成才干。在创造出产、情感陪同、人机交互等方面都带来史无前例提高。
郑爱国回想,在联想内部,开端对AI PC的设想也十分万能。ChatGPT开端以谈天的方法出圈,AI PC是不是也要做AI谈天的功用?大模型能够更充沛了解人类表达,是不是就能做好意图了解?是不是PC也能协助订机票、订酒店?
但这些主意逐步收敛,原因有二:
一方面,出于对技能本身的了解,假如是大模型or端侧大模型本身就不拿手的范畴,没必要做。比方订机票、订酒店这类操作,是行为模型拿手的范畴;陪聊方面,云端大模型必定做得比端侧好。
另一方面,还需求与PC本身最简单触发的场景做结合。作为出产力东西,做PPT、找文件、调设置等这些操作,简直是每一个PC用户的日常。AI PC的才干应该尽或许先触及到全部用户。
其时评论这些内容时,智能体趋势还没火起来。
一次会上,杨元庆提出一个概念“personal twin”,大约意思是要把AI打造成一个个人双胞胎。以至于在AIPC发布前夕,杨元庆在一个联想的官宣视频上,开端了一场与自己的AI twin的对话,“它将会和用户自己十分像,经过了解用户的本地数据,它似乎具有了相同的回想、具有相同的特性、能创造出相同风格的内容,就像一个双胞胎。可是它的存在不是为了替代人类,而是让人变得愈加聪明强壮,乃至必定程度上完成数字永生。”
何川后边回想,这其实便是智能体。
咱们期望有一个智能体能够为自己服务,一同它又很像自己。由于它创造的内容、扮演的人物、把握的布景常识最好都和咱们很像,才干真实含义上协助到咱们。
现在回看,联想AI PC的个人常识库,便是为此而来。
有了个人常识库,AI PC内置的智能体能够深化了解用户,供给更精准和特性化的呼应。一同凭借个人本地文档,智能体小天还能不断加深对用户的认知和了解。
而这也引出了联想AI PC的别的两大特性:内嵌大模型、个人数据和隐私安全维护。
一旦涉及到用户隐私信息,安全隐私维护的有必要被提上日程。联想在AI PC中添加了一块芯片,它包括加密算法,专门担任保证个人常识库和AI练习相关的灵敏信息。与此一同,大模型的核算进程应该被留在本地,本地AI算力怎样调用散布也需求从头考虑。
由此,联想AI PC的五大特性,被逐个清晰。
接下来,是该怎样做。
其间最首要的问题莫过于,怎样让大模型在PC本地顺利运转?对此,联想研讨院人工智能实验室担任人范建平博士有个生动的比方:螺蛳壳里做道场。
首要处理的问题,便是对端侧模型做进一步优化。
作为联想技能攻关先遣队,研讨院人工智能实验室长时刻追寻前沿技能,并担任将先进技能与实践产品做结合落地。在ChatGPT发布后,团队便现已开端重视大模型,开端考虑怎样让大模型和PC结合。
把大模型内置于PC,必定程度上就比如把大象装进冰箱。哪怕后边端侧模型规划一缩再缩,本地资源的分配上仍是需求克勤克俭。
联想集团首席研讨员、联想研讨院人工智能实验室研制总监师忠超介绍,PC本地还需求运转Windows、其他软件,需求预留出满足的内存空间,不然电脑无法作业。
但大模型终究应该占用多少内存?其时没有人知道,这是一块“无人区”。
团队测验用量化紧缩、模型取舍等方法,结合对PC系统的深刻了解,不断去紧缩大模型,去打破大模型所需内存的极限。
或许前天还需求8GB内存,到了今日就能降到6GB了。
但内存占用也仅仅团队要打破的一个维度之一,实践团队要面对的作业远比这个杂乱困难。师忠超记住,有一次团队做完优化,惊喜发现内存占用极限又一次向下打破到了5GB水平,可是镇定剖析后,他们发现模型功用出现了下降。内存占用小和功用安稳之间的平衡术,是团队每天都要去磨炼的。
好音讯是产品总算露脸,这意味着AI PC这场战争才刚刚开端。
但只处理模型占用内存还不行,模型应该跑在什么芯片上?这也是个全新的问题。
联想发现,不同的芯片厂商给出的处理计划不尽相同。微软首发的Copilot+PC挑选和高通骁龙X Elite协作,在这块高通芯片上,NPU被做的十分大,担任为大模型供给核算支撑。
但另一边英特尔、AMD的计划有所差异,它挑选让GPU承当更多AI核算。作为上层集成商,联想决议提出异构核算战略,让AI核算在CPU、GPU、NPU上都能够进行,选用不同的底层芯片,联想就做不同的协同计划即可。
在上层才干上,联想AI PC着重更懂用户。联想研讨院为此打造了智能检索增强的本地常识服务、混合意图了解等技能,使得AI PC能够深化洞悉用户个人需求和偏好,供给特性化服务和设备操控。合作场景化的定向增强、模型紧缩与异构推理加快等,能完成轻量加快、高效低耗的智能调度,提高相应速度的一同还能下降30%内存占用。
而作为一台内置智能体的终端,丰厚的运用生态也是必备的,这一点在联想AI PC五大特性中已有表现。
上一年10月,联想在一年一度的Tech World上发布了全球首款真实含义上的AI PC demo,最早展现了大模型怎样在个人笔记本电脑上运转作业。
半年之后,第一批联想AI PC正式对外出售。联想YOGA Book 9i、YOGA Pro 16s、YOGA Air 14、ThinkPad T14p、ThinkBook 16p、解救者Y9000X 2024等,都将内置联想小天个人智能体。
而跟着AI PC到来,刚满40周年的联想,也正在产生巨变。本年,“AI for All”成为联想全集团规划的全新使命,一个被改写的联想正出现在全部人面前。
回想造AI PC的一年时刻,何川、郑爱国、师忠超都不谋而合重复提及一个词——史无前例。
关于何川而言,这种史无前例产生在他主张“招募令”的一刻起。
为了更快速灵敏推进AI PC项目,何川想到学习谷歌内部常用的招募方法来组成团队。这能更快在内部找到AI人才、调集积极性。成果没想到,这次招募成为了他来到联想以来,反应最火热的一次。
由于咱们都看好AI,集团也有决计。
终究何川首先在内部拉起了一个规划上百人的开发团队,许多散落在公司遍地的AI人才被会集在一同,成为联想内部最早推进AI PC的团队。
关于师忠超而言,这种史无前例来自他地点的联想研讨院人工智能实验室建立的“作战室”。
在清晰了大模型上端侧的使命后,他地点的团队立马开端追寻大模型相关技能,联想集团首席技能官芮勇博士,更是直接把全部AI相关人才都调了曩昔,团队规划快速扩展数倍。
团队全体都十分振奋。咱们一同在一个大作业室里作业,真的是war room,这儿贴满各种小纸条,上面都是咱们的主意。每天早晨,咱们报告各自阵线的开展,遇到问题立马评论处理计划,十分严重的节奏。
师忠超没想到,这种特别的开发形式,团队竟然坚持了半年多时刻。期间有一次郑爱国去“作战室”慰劳,成果还看到有搭档周末把小孩都领了过来,自发在公司加班加点“攻坚”。
为什么能如此振奋?现已从事AI研讨二十余年的师忠超说,这不仅是产品革新的时机,也是技能革新的时机。
这儿还不得不提起领导联想研讨院人工智能实验室的范建平博士。他曾先后在普渡大学、康斯坦茨大学任职,并曾取得北卡大学终身教职。
一次团队内日常的battle里,范教授和何川“急了眼”:
我天天和你们坐在这开会评论为了什么?不便是为了情怀、不便是要做点有特征的事吗?
关于郑爱国而言,这种史无前例,是联想集团的全面改写。
每个部分都在举手,都要提出立异的主意。
作为产品司理,郑爱国也从来没有像现在这样,能如此直接地参加到工业革新中来。“这是PC的第三次工业改造。”
现在,这种认知现已不局限于联想、PC厂商内部,而是逐步在职业界到达一致。
我国信息通讯研讨院王晓丽在近期提出,生成式AI将成为智能终端生态的标配,跟着技能的不断进步,AI终端有望为用户带来更多惊喜,一同也为终端工业带来新的增加点和开展时机。
中信建投剖析称,AI PC产品的出现,一方面有望催化换机潮,然后带动全工业链获益;另一方面,也将促进中心零部件价值量提高,其间,处理器、存储直接获益确认性高,散热、电池等环节有望直接获益。
在此趋势下,联想天然成为趋势的“开路人”。造出AI PC还仅仅第一步,后边又该怎样走呢?
造出AI PC,然后呢?
跟着第一批AI PC正式出售,联想现已做好了迎候反应和点评的预备。
何川恶作剧说,这次不做商场教育,用户有定见,咱们立马改。
据泄漏,现在联想小天智能体的更新版别已在开发规划中,后续将依据用户主张继续不断打磨优化,估计以半年为期进行迭代。
那么未来,推进用户换机的理由或许将从Windows版别更新换代改为联想小天更新换代。
实践上,在联想设想中,智能体被放在了分外重要的部分。
在发布“AI for All”愿景时,杨元庆提出“个人人工智能双胞胎”和“企业级人工智能双胞胎”。
它们表达,未来社会人工智能将如影随形,似乎本身的投射。投射的主体能够是一个人,也能够是一个企业。AI将作为外部扩展,存储更多的数据、做更多推理和核算,以此让个人/企业变得更强壮。
这意味着,未来智能体将成为硬件终端的魂灵。
依托联想独有的制作系统,打造依据用户特性化体会的AI产品,何川觉得未来PC商场里,用户更关怀的是谁家智能体能带来更契合特性化需求的体会。
这也是为何联想从一开端就觉得不做集成商,从更底层自研构建AI PC。由于要害中心技能要握在自己手里。郑爱国则以为,智能体将让PC具有成为流量进口的时机。
而关于用户,联想的愿景很直接:AI普惠。
在联想出售的每一台AI PC中,都能看到一张十分翔实的说明书,介绍怎样调用联想小天、怎样与它对话、小天具有哪些功用。
意图很简单,让每一个乐意购买AI PC的用户,都能更低门槛、更充沛感触AI的力气。
作为全球PC巨子,联想每年为全球用户供给数以亿计的智能终端设备。联想刚刚发布的2023/2024财年第四季度暨全年成绩中,第四财季个人电脑事务占全球比例22.9%,增速高于商场近6%;第四财季营收994亿人民币,同比增加近10%;而且全年研制费用率和研制人员总数及占比均创下前史新高。
杨元庆表明,严厉界说的AI PC到2026年浸透率或许到达50-60%,“我信任大多数人的下一代PC将是AI PC”。
这意味着,当联想小天搭载每一台联想设备上时,全球亿万用户将一键拥抱AI。联想正在全力提速,让这样的未来更快到来。
现在,回到最开端,为什么是时分具有一台AI PC了?
由于运用AI最新技能,从未如此so easy。