gent涌向移动终端,手机智能体开启跨端跨应用业务连接新场景澎湃号·湃客澎湃新闻

AI Agent涌向移动终端,手机智能体势不可挡

还没搞清楚什么是AI Agent,手机Agent就已经横空出世

AIGC为何涌向移动端?背后有哪些逻辑?什么是手机智能体?一文看明白

科技大厂、手机厂商、企服领域都在发力,手机智能体成AI Agent新趋势

AI Agent迎来移动端大爆发,手机智能体或成企业AIGC新标配

AI Agent移动应用大升级,手机智能体开启跨端跨应用业务连接新场景

文/王吉伟

春节期间OpenAI推出的AI视频模型Sora火出天际,到处都是文生视频模型如何厉害如何改变真实世界的信息,以至于OpenAI在AI Agent方面的最新动向都被掩盖了。

春节前的2月8日,科技媒体The Information报道OpenAI正开发两款革命性的Agent软件,其中一款能够有效接管客户的设备来自动执行复杂的任务。

据说,这个Agent能够自动执行点击、光标移动、文本输入等操作,与人类操作软件无异。例如,把文档中的数据传输到电子表格中进行分析,或者自动填写费用报告并将其输入会计软件,或者根据一定的预算制定行程或预订机票。

这个能够直接操纵个人电脑自动完成各种任务的智能体,现在被更多媒体称作AI Agent 2.0。

这些报道没有具体说明这款Agent所接管的设备是PC还是手机,不过ChatGPT有移动端,能够在手机或者平板上调用这个Agent是迟早的事。

想要在移动端构建AI Agent的大语言模型(LLM,Large Language Models)厂商,远不止OpenAI这一家。

去年12月,腾讯与德州大学达拉斯分校合作推出了一个名为AppAgent的项目。该项目可以通过自主学习和模仿人类的点击和滑动手势,在手机上执行各种任务。

包括在社交媒体上发帖、帮助用户撰写和发送邮件、使用地图、在线购物,甚至进行复杂的图像编辑。AppAgent在50个任务上进行了广泛测试,涵盖了10种不同的应用程序。

2月初,阿里巴巴与北京交通大学联合推出了一款全新的手机操作智能体框架Mobile-Agent。该框架的核心优势在于其纯视觉解决方案。传统的手机操作方式往往需要依赖XML等标记语言以及系统元数据,而Mobile-Agent则完全摒弃了这些需求。

这意味着,用户无需进行复杂的设置或修改,只需通过直观的视觉指示即可完成操作。

除了科技大厂,LLM创业团队也推出了相应的Agent项目。比如在去年12月,清华&智谱AI团队推出的CogAgent-Chat。CogAgent是一个基于180亿参数规模的视觉语言模型(VLM)的图形用户界面(GUI)智能体,专注于GUI图形交互界面的理解和导航。

CogAgent使用屏幕截图作为输入,在PC和Android GUI导航任务上超越了基于语言模型的方法,如Mind2Web和AITW,引领了GUI理解领域的最新技术发展。

如今的大语言模型在具体应用方面都是多端通用,MAS和SaaS模式使得LLM厂商推出的AI Agent构建平台及个体能够应用于手机端也是必然。

AI智能体涌向移动端,已经成为AIGC行业发展的必然趋势。

(注:回复 手机Agent 获取本文提到的所有研报资源。)

AI Agent趋势:涌向移动端

系统厂商与终端厂商的步子,甚至比大模型厂商迈得还要大。毕竟他们更贴近用户,了解市场需要什么,也知道自己在哪里突破。

这些厂商对于AI Agent的探索比我们预想得要早很多,且已经拿出初步成果。

也是在春节前夕,微软推出了名为UFO的Windows Agent。这是一款用于构建用户界面(UI)交互智能体的 Agent 框架,能够快速理解和执行用户的自然语言请求。

UFO可以在Windows内自主回答用户查询,可在单个或者跨多个App中无缝导航和操作来满足Windows 操作系统上的用户请求。可以更加智能地理解用户的意图,不用人工干预,自动执行相应的操作。

如果你想从一份Word文档中提取文本、对照片应用程序中的图像进行观察、以及总结 PowerPoint中的内容,利用所有这些信息撰写一封深度的电子邮件内容并完全自主发送时,你只需要借助一个UFO框架就可以完成。

这意味着,以前需要大量手动工作的跨应用程序工作流程,现在可以直接简化为针对 UFO 的简单自然语言指令。

UFO,或许会成为下一代Windows系统的核心。以后搭载windows系统的笔记本电脑等移动终端,将会因UFO而开启全新用户体验。

重点在于,其他系统也会效仿Windows,AI Agent将会成为各个系统的标配。

把LLM以及AI Agent装入PC或者移动终端,硬件厂商将其称作AI PC或者AI 手机。

自从LLM能够在端侧部署之后,硬件厂商们就开启了狂飙模式,而LLM的落地应用主要途径的AI Agent模式也首先进入其法眼。

在2024 CES上,联想首次提出“智能终端AI OS”,即在AI技术驱动下,智能终端将内嵌个人Agent(智能体)、个人大模型、本地知识库、应用接口,形成下一代AI OS。并认为,AI技术的突破将在PC、手机、AIoT等所有智能终端产品领域掀起第三次技术革命浪潮,重塑终端体验及产业生态。

据悉,联想个人Agent或将在4月份与用户见面。

面对新生代AI硬件设备AI pin和Rabbit R1 所展现的“准AI Agent”属性,手机厂商们早已经坐不住,强势展开了对AI智能体的角逐。

1月份,小米、华为、vivo、理想等几家公司联合清华大学智能产业研究院(AIR)共同发布了一篇个人LLM智能体综述论文(也是一个标准),该论文梳理了个人LLM智能体所需的能力、效率和安全问题,收集并整理了领域专家的见解,还开创性地提出了个人LLM智能体的5级(L1—L5)智能水平分级法。

今后各家的智能体处于什么水平,参照这个标准便会一目了然,也为移动终端的Agent构建提供了更多参考方向。当然,这个标准的推出也意味着厂商们对于移动终端智能体的积极探索与更大的市场需求。

OPPO等推出的AI手机,用户实测后的感触是越来越像Agent,至少已经能够达到上述标准的L2级。

OPPO与IDC在联合发布的《AI手机白皮书》中,还给AI手机下了一个明确的定义。

OPPO还公布1+N智能体生态战略,核心包括OPPO AI超级智能体和AI Pro智能体开发平台。

其中1指的是AI手机的智能OS,扮演AI时代操作系统的角色,具备传统智能手机不支持的自学习感知能力、长期记忆能力和工具调用能力。它可以与用户专属的智能体、第三方智能体的交互和信息统筹。N指的就是前面所述的用户智能体和第三方智能体等构成的全新智能体生态。

理想汽车参与这份标准的研究,则映射的是AI Agent适配人车交互场景的广阔市场。国盛证券在一篇报告中指出,AI Agent面向复杂任务处理,充分适合人车交互场景,是数字人的核心演进方向。

座舱智能化时代,用户在驾乘中会有各种个性化需求,数字人被赋予更多的施展能力的空间,其使命是通过AI Agent实现AGI向汽车座舱渗透,实现三屏互动(手机屏、车载屏和家用屏)。

而Meta与雷朋合作推出的第二代智能眼镜,接入多模态AI后,也开始向AI Agent”靠拢。不必再为不同任务选用不同应用程序,只需用日常用语告诉设备需求,眼镜就能基于软件获取的信息,为用户作出量身回应。

企服的爆发:Agent渐成标配

科技巨头公司及企业服务厂商,也早在AI Agent移动终端的应用方面下足了功夫。

除了可以创建自己的Chatbot,Coze官方还提供了Bots 商店和插件。插件的使用,可以让用户构建的机器人更加强大。

通过Coze构建的机器人,与OpenAI的GPTs类似,主要用于交互并能够实现一定的业务流程操作,可以算是初级智能体。

其更早推出的豆包,也是一个构建智能体的平台。

钉钉在1月发布的钉钉7.5版本,也是全量上线AI Agent产品“AI助理”。钉钉平台上的Agent,能够通过钉钉内的企业协同场景,迅速将AI Agent用起来,积累数据。这个助理拥有真正的执行能力,并非停留在和用户的交互层面,可以进行信息摘要、写工作总结、写文档等通用的办公工作。

用友发布的YonGPT,也能通过上下文记忆、知识/库表索引、Prompt工程、Agent执行、通用工具集等扩充大模型的存储记忆、适配应用和调度执行能力,再结合财税、人力、供应链、研发等领域的知识和最佳实践扩充大模型专业能力,从而形成体系化的企业服务大模型。

以上这些平台的Agent,凭借SaaS属性,都可以在手机端丝滑使用。

除了以上公司,一些创业公司以及专注超自动化的厂商,也陆续推出了能够应用于移动端的Agent产品。

比如实在智能也推出了手机Agent智能体,只需一句话直接传达自己的意图,就可以帮你操作所有电脑、手机的软件完成各类工作和生活的目标任务,通过自主学习和模仿人类的点击和滑动手势,可以在手机上操作App执行各种任务。

背后的逻辑:发展趋势使然

在很多人还没有弄懂什么是AI Agent的时候,大部分人以为Agent更适合在PC端执行各种任务的时候,厂商们已经在悄然布局AI Agent在移动端的应用了。

至于厂商们为何急于将AI Agent拓展至移动端,大概有以下几点原因:

用户需求:随着技术的发展,用户对智能手机和设备的期望越来越高,他们希望设备不仅仅是工具,还能成为日常生活的助手。Agent能够理解用户的需要,并为他们提供个性化服务,改善用户体验。

增强粘性:通过提供Agent服务,可以让用户更频繁地与设备互动,增加用户对品牌的忠诚度和设备的使用频率。

竞争优势:随着市场竞争的加剧,厂商需要不断创新以保持竞争力,集成先进的Agent技术可以作为卖点,吸引消费者购买。

商业模式创新:AI Agent可以开辟新的收入渠道和商业模式,比如通过智能推荐系统促进销售,或者通过订阅服务提供高级功能。

开拓新的收入流:智能Agent往往能够与其他服务或产品相结合,为厂商创造新的收入渠道,如智能家居控制、电子商务购物、内容订阅等。

客户服务改善:AI Agent可以提供24/7的客户服务,不仅提高了响应速度,还能够处理大量的客户咨询,提升客户满意度。

除了以上几点原因,还有重要的一点便在于AI Agent行业发展趋势。

毕竟,按照比尔盖茨的观点,AI Agent将彻底改变人们线下和线上的生活方式,改变每个人与计算机的互动方式,还将颠覆软件行业。

就智能手机而言,Gartner在相关报告中的观点认为,生成式AI智能手机配备了硬件和软件功能,能够无缝集成和高效执行智能手机上的Gen AI驱动功能和应用程序。它们能够在本地运行基础或微调的人工智能模型,产生新的衍生版本的内容、策略、设计和方法。

无疑,这对于提升用户体验以及使用手机提升生产力有着莫大的帮助。

到2027年,超过60%的个人电脑微处理器将集成设备上的人工智能功能。随着设备上的人工智能成为标准要求,这一比例将从2023年的10%上升。

同时,到2027年,智能手机中超过70%的其他应用处理器将集成设备上通用功能,而2023年这一比例为5%,设备上通用将成为一项标准要求。

处理器集成LLM,将会极大地拓展AI Agent的存在空间,并会进一步提升用户体验。

按照OpenAI CEO奥特曼的说法,Open AI的愿景是让ChatGPT化身“超级智能工作个人助理”,为全能的AGI(通用人工智能)铺路。

显然,包括GPTs在内的AI Agent将会承载这个使命,而移动端Agent才是变革过往生产效率的真正开始。

手机智能体:跨端跨应用场景开启

前文我们不只一次提到了手机上的AI智能体。能够在手机上应用并执行各种任务的Agent,都可以视作手机Agent\手机智能体。

而AI手机本身,也是一个Agent。在OPPO AI中心产品总监张峻看来,AI手机不仅有底层硬件的需求,也有OS层面AI化和交互体验的革新,它更像是一个超级智能体。

手机智能体不仅是智能助手的升级版,更是一种新的互动方式。它们能够感知用户的需求、自主决策执行,甚至学会用户的习惯,为用户提供更为个性化的服务。这种技术的发展将为我们带来更加智能化、便捷和高效的手机体验。

与PC端的Agent类似,目前的手机Agent一般分为两种:一种是被钉钉称作交互式的Agent,主要用于各种文字、图片等的生成以及各种问答;另一种是能够直接操作部分生态内业务应用的业务类Agent。在表现形式上,它们都是软件机器人。

但手机Agent的构建并不一定在手机端,也可以在PC端。

手机Agent的目的是通过在手机上运行Agent程序或者软件去执行各种对于手机的操作,以完成各种办公场景中的任务,所以这个Agent的形态可能就是一个应用,或者是通过APP去调用的某个打包的可执行文件。

事实上,受限于手机访问屏障门槛越发变高的趋势,从PC端构建AI智能体是目前TO B领域的主流移动Agent解决方案。从电脑端触发手机智能体会有更大的优势,更能满足B端客户移动业务实现的需求,并能兼顾用户的工作与生活细节。

我们日常工作中的大部分业务流程会分散到多端设备上,构建一个能够跨终端的Agent去处理跨端、跨软件、跨部门的业务流程是非常必要的,也是所有企业及办公人员的刚需。

手机智能体最强的能力展现就是调用手机端的一切应用,一边满足企业用户工作+生活并兼顾用户在各场景中的便利,另一边让个人用户一句话就畅享专属手机智能体助理的贴心服务。

此外,由企业服务厂商推出的企业级手机Agent能够做到足够的安全级别,不用担心隐私数据泄露等安全隐患。

以实在智能推出“手机+Agent”结合的手机智能体为例,它可以打破手机App的界限,跨应用操作任何手机软件完成任务。

手机Agent能够通过模仿人类的直观动作来与手机应用程序交互,就像一个真人用户一样,可以查询天气订机票、预约餐厅订位、进行在线购物、编辑图片或制作视频,也可以操作办公软件发送邮件、采集业务数据和处理表格、提交工作流程审批单等等,只需一个指令,手机Agent智能体在瞬息间即可帮你完成。

例如,春节开工期间,您正忙于工作,无暇分身向客户发送开工问候,类似于此的重复性工作,在手机智能体的帮助下就可以自动完成,只需对手机说出“向标签为客户的好友发送开工问候”的需求,它就可以识别您的微信标签备注,向该标签下所有客户发送专属问候语,成为你的手机办公助理。

与传统的Siri等智能语言助手不同的是,这个手机智能体不是简单的命令执行者,而是规划、决策和执行的多面手,通过ISSUT(智能屏幕语义理解技术)视觉能力进行整个操纵过程,无侵入接口,也不需要系统后台访问用户的隐私、敏感数据来实现操作。

此外,PC智能体已经生成的业务流程跟踪,也已经在手机端实现。比如,企业的高管通过手机智能体就可以轻松获取当日最新控制台业务分析数据,掌握第一手业务动态,及时将需要关注的动态发送给技术或支持人员等,提高工作的灵活性和信息反馈效率。

从PC端智能体无缝切到手机智能体,以及用手机操作PC智能体的应用场景丝滑转换,可以说是继PC智能体后的又一智能体的突破性落地范例。

实在智能推出的手机Agent智能体,验证了AI Agent的实用性,在移动Agent领域做出了一个很好的应用示范,其未来有更多创新的多模态框架探索。

手机智能体未来:终端Agent智能革命

手机智能体将会为大家带来新的互动方式与个性化服务,并带来更加智能化、便捷和高效的手机体验。

未来,随着手机智能体的不断发展,它将会成为更加强大、智能化的存在,成为我们生活的一部分。当然手机智能体崭露头角,也预示着手机和移动终端行业新纪元的到来。

比尔·盖茨认为,AI智能体最令人兴奋的影响是它们将使当今对大多数人来说过于昂贵的服务民主化。并指出,智能体不仅会改变每个人与计算机交互的方式,还将颠覆软件行业,带来自我们从键入命令到点击图标以来最大的计算革命。

现在看来,手机智能体带来的终端Agent智能革命,大概率会承载这一重要的历史使命。

全文完

【文末福利1】:后台发消息 手机Agent 获取本文提到的所有研报资源。

【文末福利2】:后台发消息 Agent2024,获取本文提到的十份研报及论文资源。

RECOMMEND

推荐阅读

点击左下角“阅读原文”查看AIGC研究系列文章,扫码或者后台回复【加群】申请加入AIGC行业应用交流社群。如果你是正在关注AI Agent的创业者、投资人及企业,欢迎带着产品、项目及需求与王吉伟频道交流。

AI Agent涌向移动终端,手机智能体开启跨端跨应用业务连接新场景原创 王吉伟 轻触阅读原文

原标题:《AI Agent涌向移动终端,手机智能体开启跨端跨应用业务连接新场景》

THE END
0.AI智能体实战|使用扣子Coze搭建AI智能体,看这一篇就够了(新手必读本文介绍了如何使用 Coze 搭建 AI 智能体的步骤,包括创建智能体(登陆平台点击 “创建智能体” 并填写信息)、编写提示词(选择运行模式和大语言模型,填写并优化提示词)、添加技能(设置开场白)、预览与调试、发布智能体(填写发布记录选择发布平台)以及使用智能体(查看和测试)。 jvzquC41dnuh0lxfp0tfv8ogppdk|u1ctzjeuj1fgzbkux136?:3;683
1.AI智能体实战|使用扣子Coze搭建AI智能体,看这一篇就够了(新手必读)本文介绍了如何使用 Coze 搭建 AI 智能体的步骤,包括创建智能体(登陆平台点击 “创建智能体” 并填写信息)、编写提示词(选择运行模式和大语言模型,填写并优化提示词)、添加技能(设置开场白)、预览与调试、发布智能体(填写发布记录选择发布平台)以及使用智能体(查看和测试)。 jvzquC41dnuh0lxfp0tfv8|zck}b{8ftvkimg8igvcomu86658:32;:
2.扣子AI智能体创建平台最新版云市场扣子AI智能体创建平台扣子(Coze)AI智能体创建平台是字节跳动推出的新一代低代码AI应用开发平台,专为零门槛快速搭建个性化智能体而设计。平台提供可视化设计与编排工具,用户通过简单的拖拉拽操作,即可快速搭建智能体工作流,无需复杂编程基础。它集成60多款插件,覆盖旅游、办公、图片理解等多个领域,并支持自定义插件开发,jvzquC41ocxlg}3cnkvp7hqo1jfvjnn1esgy95292:447mvonEjpwjtUq{senBugcxdjhFK'G<&;B*DC'K9'A8'DF
3.扣子空间如何创建智能体在AI技术快速渗透各行业的当下,智能体已成为个人与企业实现自动化服务、提升效率的核心工具。扣子空间(Coze)作为国内领先的零代码AI开发平台,通过可视化编排工具与预置大模型能力,让用户无需编程基础即可快速构建智能体。本文将从创建到发布,系统解析扣子空间智能体的搭建流程。 jvzquC41yy}/rltpnktf0lto0et0cr43;:903B=575?50qyon
4.扣子Coze智能体万字教程:从入门到精通,一文掌握AI工作流搭建,大模型本章我们来手把手教你,如何从零创建第一个扣子智能体,15分钟以内完成。即使是AI小白,跟着这个流程走一遍,你就能掌握最关键的几个操作概念:提示词设计、变量配置、对话式应用发布。 目标很简单: 用扣子创建一个“写小红书爆款文案”的智能体,发布成一个能互动的网页助手。 jvzquC41dnuh0lxfp0tfv87623e94=;;9360c{ykenk0fnyckny03>5838>:8
5.#建议收藏!零基础小白也能学会:AI智能体(Agent)搭建全攻略,手把手教你本文详解AI Agent概念及与传统AI工具的区别,提供扣子平台"每日热点助手"智能体的完整搭建教程。分享2大技法(精准提问、迭代反馈)和2大心法(明确目标、人机协同),强调普通人无需编程背景即可创建智能助手,自动处理任务,从根本上改变工作方式。 一、智能体(Agent)到底是啥?一句话让你明白 jvzquC41dnuh0lxfp0tfv8pcmc684;|y1cxuklqg1fkucrqu13;56A>839
6.扣子Coze扣子Coze是字节跳动推出的零代码 AI 应用开发平台,可以理解为字节跳动版的GPTs。无论用户是否有编程经验,都可以通过该平台快速创建各种类型的聊天机器人、智能体、AI应用和插件,并将其部署在社交平台和即时聊天应用程序中,如Discord、WhatsApp、Twitter、飞书、微信公众jvzquC41ck3cq}3ep1yjvnx189?20qyon
7.AI智能体箭在弦上,字节跳动的“扣子”能否抢先一步?也正是因为AI智能体如此重要,让其掀开大模型竞赛的新一页,也让众多科技巨头、初创企业纷纷加码。如,谷歌公司在今年7月18日宣布推出Project Oscar项目,帮助开源开发团队使用和创建AI智能体来管理软件项目。 更火爆更热闹的AI智能体及相关开发平台等,自然是在国内。如,字节跳动的扣子、腾讯云的腾讯元器、百度智能云千帆jvzquC41v071lzpc0eun0ls1rkj`5@<;88:687xjvor
8.Coze扣子官网Coze扣子智能体开发平台是什么: Coze扣子智能体开发平台是一个多功能的AI应用开发平台,它提供了一系列的智能体,用于满足不同用户的需求,从内容创作到日常生活辅助,以及专业领域的智能服务。 主要特点: 多样化智能体:平台拥有多种智能体,覆盖广泛的应用场景。 jvzquC41yy}/crle0et0urygu1>15;:0jvsm
9.AI智能体扣子(Coze)搭建工作流小白教程手把手教会手把手教你创建工作流 兄弟们,这是入门篇,本文咱学学创建基础的工作流即可,将来咱一步步上难度。 首先,我们登录扣子(Coze)官网(https://www.coze.cn/) 登录后我们首先要点击工作空间,然后点击资源库,在右侧点击资源,然后点击工作流。 点击工作流之后弹出一个创建工作流,根据自己的情况进行填写即可。(注意:工作流jvzquC41dnuh0lxfp0tfv8mwcpm:8991ctzjeuj1fgzbkux136=28;525