重口味
WAIC观察丨AI走出屏幕,智能体与Token同时爆发_我的网站

一 | 杭州日报讯 近日,建德市新安江街道电视路小区新增一处热闹场所——一间150平方米的“银龄共富工坊”。 7月17日至20日,世界人工智能大会(WAIC)在上海举行。

二 | 屋内每日有十余位老人围坐组装旅游便携式晾衣架,每件可赚0.38元。72岁的吴菊女是其中动作最快者,日均完成100件。高温与阵雨没有阻挡观众的热情,记者两度收到“世博展览馆人流集中,排队入场耗时较长”的短信。展览馆内,AI与机器人行业的从业者、投资人,乃至创业者、求职者四天时间内被高密度“压缩”在一起,记者看到有创业者拉着行李箱站在熙熙攘攘的人群旁,用老旧的笔记本亮出“寻找一起创业的小伙伴”的标语。 过去一年里,经历了Claude崛起、龙虾OpenClaw“破圈”后对市场的教育,智能体概念已深入人心,伴随而来的热词则是因智能体“烧钱”而引发关注的付费计量单位Token(词元)。“钱虽不多,但心里踏实。

三 | ”她边说边继续忙碌。据了解,该工坊源于今年新安江街道新安社区工作人员开展的“劳动一小时”网格走访。

四 | 当时,电视路小区几位老人闲聊时叹气:“退休工资不高,想找点轻松手工活补贴家用,就是没门路。这是AI大模型转向智能体,切实代替人类工作,同时Token消耗暴增的一年。

五 | ”说者无心,听者有意。新安社区党委书记郑迎春多方打听,找到本社区做来料加工的妇联执委汪小凤,敲定了组装晾衣架的手工活。货源解决后,还需一位熟悉小区情况的热心人牵头。这给参展的企业、机构带来了哪些影响? 这一篇观察,新京报AI研究院将主要围绕AI与智能体、算力展开。 7月18日,世博展览馆H1展厅门外拥挤的人群。

六 | 新京报贝壳财经记者 罗亦丹 摄 聊性能参数的人变少了,智能体能不能干活最重要 走进WAIC展馆,一个直观的变化是:以AI大模型为主题的H1展厅里,很少还有展商以“我们的模型有多少参数”作为卖点,取而代之的是一个更务实的问题——AI Agent能不能在具体场景中真正代替人类完成任务? 本次展会出现了不少外国面孔,百度展台上,来自巴基斯坦,在中国求学14年的外贸公司经理阿里告诉记者,自己对本次WAIC展会印象最深的特点是“有用”,“中国的AI和机器人不是放那里为了好看,还能帮人类。一楼展厅有许多AI产品,比如这个百度搭子,我有一些工作在电脑上没有完成,在手机上告诉它要做什么,它能给你做得很清楚。而二楼展厅的机器狗,一些人过不去的地方它们却可以过去。” 展台工作人员告诉记者,“那些看起来不大,但在真实工作里高频、琐碎、耗时的任务,最适合智能体接手。

七 | 所以在应用中,百度搭子覆盖的场景不只是做PPT这种标准化办公任务,还包括工作流里大量细小但真实的环节,比如检查开会材料里哪些链接无法访问。” 在B端,智能体要真正进入企业的工作流,远比在展台演示复杂。电视路小区是半山坡上的老旧小区,年轻人不多。容联云产研中心副总经理唐兴才告诉贝壳财经记者,早先他认为智能体要适应企业内部的固有流程,但在推进的过程中,他发现人需要适应现在智能体的工作方式才能发挥最大效率。

八 | 容联云从四年前就开始进行AI客服落地的探索,“之前该场景需要座席自己思考、关注客户内容,而现在用户进线的时候,我们的智能体可以进行洞察,乃至于给出回答建议。

九 | 过去,座席大量背话术是很重要的工作,这其实就是背企业的知识库。社区工作人员和居民小组长一合计,45岁的庄小青最合适——年纪轻、热心肠,又熟稔邻里。现在智能体把所有的企业的知识库和信息全都掌握,座席的作用更偏向于审判智能体给出建议是不是合适,然后进行使用、确认。座席变得更像小模型时代的训练师,确认审核这个动作正在调教模型变得越来越聪明。” 那么,同样一个工作,使用智能体和人工的成本对比到底是多少? 唐兴才给出了明确答案——人工座席每天工作8小时,需要培训,并且面临流失风险,每天电话大约在150到300就已经饱和了,成本约为5000-8000元。而智能体处理方案可以24小时工作,每天处理话务量和任务量1万以上,并且它的服务标准非常统一,不会有情绪问题和个人差异化,成本约为2000-3000元。收到邀请,庄小青爽快应下。能力上,智能体达不到优秀人员的水平,但可以达到合格水平,“这使得它的边际成本非常低。就这样,社区腾出场地,社会人士提供货源,热心居民负责管理,该工坊顺利开张。“模式很灵活,专接安全简易的手工活,年轻人带老人,随到随学,干累了还能带回家做。”庄小青说。

十 | 吴菊女就是冲着这个来的,她听说工坊开张,第一天就来了,当年工作练出的手速,如今派上了新用场。” AI智能体的“落地”与“实用性”在世博展览馆的H4展馆得到了更好的体现,这个区域里70%的企业成立不足3年,有很多是“AI native(AI原生)”企业,从创业伊始就以AI能力为核心,也正因如此,这些企业更看重AI实际解决问题的能力,是科研成果转化的最佳实践者,对成本与落地也更加敏感。像吴阿姨这样在工坊里找到“位置”的,目前已有30多位老人。手脚慢些的,一天也能赚十五六元。眼看工坊越来越受居民欢迎,郑迎春也开始更加注重场地的卫生环境以及空调、供水等便民举措。

十一 | 一个典型的例子来自百型智能,记者走到这家公司的展位前,发现创始人韩美正在和看上去颇为年轻的公司员工们自拍。韩美此前在阿里巴巴做出海业务,有着20多年的B2B跨境经验,而公司主力AI研发人员此前研究的领域是“图论”,行业经验与技术结合后,百型智能在2024年已是国内第一批做单智能体Agent的公司,拥有中国首个备案的外贸垂类大模型,在“用AI帮助国内企业出海找客户”这一痛点上得到了落地。 百型智能创始人韩美。最近,该工坊墙上还多了几条暖心公约:“安全第一,量力而行”“互帮互学,心平气和”“计件付酬,公开透明”“开心劳作,温暖回家”……“让老年朋友们在这儿有人说话,有事做,精气神都不一样了,比一个人闷在家里强。”郑迎春表示。受访者供图 韩美对贝壳财经记者直言,目前公司的现金流一直很稳定,且客户多为中小企业,“我们选择做难而正确的事,对中小企业收费也不太贵,按结果收费,目前我们的智能体已经服务了1000多家企业出海。对这群平均年龄超过65岁的老人来说,这间工坊的意义早已超出了“挣钱”本身。邻里互助、抱团解忧,原本独居在家的老人,如今有了“工友”。

十二 | 新推出的企业本体OntoZ,让群智能体覆盖客户更多Lead2Cash工作流同时成为数据入口,主动沉淀数据资产,实现高频反馈下的交付自优化。

十三 | “支部领着干、能人带着做、邻里互助学,新安社区银龄工坊里,这群银发工友正用自己的双手,把日子过得充实而踏实。”新安江街道相关负责人介绍。”当被问及服务的企业里“哪个行业出海最多”时,韩美坦言机器人、3C数码等中国产品最受海外欢迎,“带电带智能带软件的出海势头最好。

十四 | ” 客户从人转向智能体,如何节省Token? 另一方面,智能体的流行也让Token消耗量剧增,这一趋势从年初的龙虾OpenClaw热潮开始被人所重视,之后几乎成为了行业共识。 那么问题来了:当你确定Token消耗将巨量增加时,如何才能抓住这一机遇?WAIC现场,多家芯片以及AI基础设施厂商给出了答案,并且解决方案“八仙过海各显神通”。 在H2算力主题展区,记者看到了多家芯片公司展示的黑色集装箱一般的巨型机柜,展馆里不少算力厂商推出了卡数各异的“超节点”产品。 WAIC展馆内展示的磐久AL128超节点服务器。

十五 | 新京报贝壳财经记者 罗亦丹 摄 壁仞科技AI框架架构副总裁丁云帆告诉记者,当前AI发展面临三大核心挑战:模型参数从千亿迈向数万亿(超大参数)、Agent等应用场景要求百万级上下文长度(超长文本)、推理和训练都需要成千上万张GPU协同工作(超大集群)。仅凭单张 GPU 的算力性能,已难以独立承载上述复杂任务。在此背景下,如何实现海量GPU高效协同运行,使之如同一台一体化超级计算机开展工作,正是超节点架构着力破解的核心难题。 不过,当前主流的电互连超节点方案正面临规模扩展的物理极限。

十六 | 随着GPU算力持续增长,互连带宽需求将超过1TB/s,端口速率将达到224Gbps,而铜缆电信号在3米内就会严重衰减。光互连成为突破这一瓶颈的必然选择。因此,壁仞科技在WAIC期间推出了下一代NPO光互连、分布式解耦架构超节点方案。 “异构”也是关键词之一。

十七 | 从前“AI四小龙”时代一直坚挺至今,并在上海“主场作战”的商汤此次带来了商汤大装置实现多项关键技术突破的消息,如依托异构混合推理,商汤大装置实现主流国产芯片MFU(Model FLOPs Utilization)提升85%到152%,整体推理性价比达到英伟达H系列的1.25倍。 商汤科技董事长兼CEO徐立表示,谁能以更低的成本,更高的效率,更稳定的供给,供给高质量的Token资源,谁就能够推动AI时代的新的繁荣。 无问芯穹联合创始人兼CEO夏立雪发表演讲。

十八 | 受访者供图 无问芯穹联合创始人兼CEO夏立雪在WAIC现场披露了无问芯穹首创的跨集群异构PD分离架构,他认为“计算需求在指数级攀升,今天,仅依靠产能的线性增长去堆叠算力,已经远远无法弥合供需之间持续扩大的缺口。” 夏立雪对此解释称,智能体推理上下文极长、交互轮次极多、缓存命中率极高,对吞吐、时延、缓存复用的要求,远高于传统对话场景,不同芯片在预填充(Prefill)和解码(Decode)两个阶段,性能表现差异很大,而目前各地已有的存量算力集群基本都是同构设计,普遍各有侧重、存在“偏科”,而新架构可以让“偏科”的硬件只刷自己最擅长的题,可以极大提升大模型推理系统效率。 相比架构的改变,PPIO创始人姚欣则更强调客户的变化,他认为“智能体时代最重要的变化,就是云的第一客户从人变成了智能体”。 基于此,他在WAIC上宣布打造“面向智能体时代”的Token智能工厂,以及打造“智能体为第一客户”的Agentic Cloud。

十九 | 其中前者旨在帮助企业避免Token浪费,后者则是一个为智能体打造的云服务体系。 在Token生产商眼中,智能体已经逐步取代人类成为了Token的“第一大用户”,这带来了商业上的改变,对AI基础设施提出了更高要求,也给国产算力发展创造了全新的机遇。 可以预见,随着智能体应用进一步普及,Token的供需与效率还将持续重塑算力产业的格局。而所有技术迭代的最终指向,都是让AI以更低的成本、更稳的姿态,真正成为千行百业的生产工具。这趟由技术驱动的产业列车,刚刚驶入最具想象力的区段。 记者联系邮箱:[email protected] 新京报AI研究院 罗亦丹 编辑 杨娟娟 校对 柳宝庆。

|
Current article:http://www.shangfochengcongshuaizhuang.buzz/8az2/pur.html
Published on:03:25:09

男女纠察队
金牌调解