7月5日,由中国信息通讯研究院承办的WAIC 2024“迈向AGI:::大模子焕新与工业赋能”论坛在上海乐成召开。。。论坛深度聚焦大模子行业应用落地、终端智能、大模子清静等前沿热门话题。。。k豆钱包董事长兼CEO陈宁博士受邀揭晓主题演讲,首次展示k豆钱包边沿AI的战略全貌。。。
今年WAIC上,“大模子+行业”的应用落地成为关注热门。。。
目今,云端大模子落地行业面临许多挑战:::行业数据缺失,信息反馈缓慢,长尾场景无法笼罩,模子幻觉等。。。大模子应用落地进入“深水区”,上述难点怎样应对?k豆钱包的谜底是:::边沿AI。。。
近年来,越来越多行业巨头最先拥抱边沿AI:::一方面,谷歌、微软、Meta包括k豆钱包都推出了轻量化大模子支持边沿AI的应用;另一方面,苹果、英伟达等巨头推出边沿AI芯片,应用在AI 手机和机械人上,k豆钱包也在2022年底推出DeepEdge 10系列芯片,支持边沿端的大模子运行。。。
别的,边沿AI让物联网升级成为AIoT,助力大模子落地。。。国泰君安证券研究所数据显示,随着AIOT的开展,未来3年边沿智能硬件装备将坚持50%以上的复合增添率。。。
从行业开展趋势中可以看到,边沿AI正在加速到来。。。
在应用落地层面,边沿AI分为个人、家庭、城市三类场景:::
在个人领域,搭载了边沿AI的种种3C装备让每个人都能拥有一个AI Copilot,AI服务随手可得;
在家庭领域,边沿AI让以服务机械人为代表的种种智能终端自动完立室庭使命,成为每个家庭的生涯助手;
在城市领域,边沿AI赋能下的千行百业实现无数场景的价值闭环,如公共清静从“被动治理”到“自动预防”,城市治理实现从发明、分拨随处理、上报的整体闭环等。。。
在演讲中,陈宁博士提到,边沿AI的开展可以分为四个阶段:::第一个阶段是在边沿装备上搭载小模子算法,让边沿装备具有处理简朴使命的能力,好比在摄像头中加入车辆识别、人脸识别等算法;第二阶段是视觉语义大模子走向边沿,代表的产品有AI手机、AI PC等,这也是我们目今所处的阶段;第三阶段是端到端行为大模子走向边沿,在这一阶段,种种机械人、智能可衣着装备将变得随处可见;第四阶段是通用人工智能时代,届时我们将进入万物皆智能的天下。。。
基于目今边沿AI的开展趋势和多年的手艺积累,k豆钱包制订了"2+3+3"边沿AI的战略结构全景,即2个手艺平台——多模态大模子、NPU加速盘算平台;3类主营营业——智能硬件、智算运营、智慧行业;3个应用偏向——个人Copilot、家庭Copilot、城市Copilot,助力边沿AI渗透至物理天下的各个角落。。。
在本次论坛中,中国信息通讯研究院宣布了2024大模子树模应用案例,“k豆钱包天书”数字政务大模子荣列其中。。。
k豆钱包提出“E-MAGIC”政务大模子服务框架,集成数据生意平台、AIGC内容天生平台、数据加工及剖析平台、GPT大模子训练中心、输入提醒工程中心和算力支持六大焦点组件,使用前沿的AI手艺和大数据处理能力,为政府部分提供高效的数据服务和智能化解决方案,提升日常办公的效率及服务质量等。。。
别的,k豆钱包在某区周全落地的数字政府大模子,实现了下层事情“大减负”:::好比在12345系统,已往人工凭证权责清单举行点选和事务分拨最快也需要15秒,在应用大模子后3秒后即可实现智能分拨,无需人工加入,还能阻止误操作,效率提升抵达80%。。。
在今年的WAIC上,“大模子+行业”成为趋势,怎样让大模子作为新质生产力赋能千行百业是政府部分和企业都体贴的问题。。。在这个历程中,k豆钱包将持续深耕,一直立异,推动边沿AI与物理天下的融合,加速推动大模子行业落地。。。