集微网消息,在日前一次媒体专访中,“深度学习之父”杰弗里·辛顿曾畅想了ChatGPT等新一代AI大模型被运用于终端家电中的情景:“因此,我认为会有一个阶段,一旦某个AI系统训练完毕,我们会将其运行在非常低功耗的系统上。所以,如果你想让你的烤面包机能和你对话,你需要一个只花费几美元的芯片,而且它能运行像ChatGPT这样的程序。”


【资料图】

在刚刚结束的中国家电及消费电子博览会(AWE 2023)上,一家中国芯片企业,已经让这样的梦想照进了现实。

在以智能科技为主题的新国际博览中心W3馆,北京探境科技有限公司(简称“探境科技”)的展位上人流络绎不绝,集微网还看到不少家电厂商现场自报家门主动寻求合作。现场展出的端侧AI语音识别芯片解决方案,无需繁琐的配网和触控操作,一句指令就能让空调、风扇、灯具“随心而动”,特别是其新一代产品Voitist 811(简称VOI811),基于ChatGPT同源的语义理解技术,无需记忆命令词即可准确识别用户意图,为参观者带来了堪称惊艳的人机交互体验,也令人看到了AI“赋智”端侧应用的全新可能性。

(2023AWE探境科技展台)

端侧智能化的“第一性原理”

智能家居等端侧场景怎样实现智能化?

很长时间以来,这似乎是一个无需被追问的话题,从系统厂商到上游模组、方案商、芯片供应商,都习惯于因循着既有路径埋头奔跑,在WIFI/蓝牙、大屏、APP等软硬件元素上相互“内卷”,实际效果却差强人意。“中看不中用”的产品体验,也大大抑制了相关产业链的发育,成为公众笑料的冰箱大屏广告,恰是智能家居尴尬现状的一个缩影。

正如埃隆·马斯克所言,我们总是倾向于比较,对别人已经做过或者正在做的事情,我们也都跟风去做。这样发展的结果,只能产生细小的迭代发展,甚至不经意间背离使用者的“初心”。

假如端侧场景的智能化存在着一个“第一性原理”,那么人机交互的简单、自然、直接,无疑是其本质要求,面对从2.4G信道到云端叠床架屋的多重技术、商业模式挑战,产业界亟待“另辟蹊径”,探境科技在端侧AI语音识别上的实践,初步展现了令人兴奋的前景。

从动物到人类,声音往往是信息交互的核心载体,智能家居这一场景,显然也非常适合以语音进行人机交互与控制,不过传统基于统计学习技术的语音识别模型受算法及端侧芯片功耗、算力的约束,往往只能支持有限的命令词识别,乃至需要联网以云端资源提高性能,回到了配网、下载注册APP的老路,“即插即用”的应用潜力被技术瓶颈所束缚。

探境科技此次展出的新一代芯片VOI811,则突破性地采用了ChatGPT同源的Transformer模型,支持较语音识别更高级的自然语意处理(NLP)功能,且较NLP领域以往的LSTM等模型相比,Transformer以基于位置的自注意机制取代了对时序信息的依赖,从而大幅改善了模型对算力资源的使用效率,已经在不同任务上展现出一系列强悍能力。基于Transformer模型,搭载VOI811的设备无需用户记忆特定关键词,其自然叙述的控制意图即可被准确理解。

(探境科技新一代芯片VOI811)

众所周知,应用Transformer的大型语言模型(LLM,Large Language Model)训练推理,动辄需要上万颗高性能GPU支撑,要在端侧实现同源的算法架构绝非易事,探境科技凭借在AI算法和AI芯片上的软硬件全栈技术能力,最终在业界领先实现了端侧离线部署的“奇迹”。

探境算法专家透露,算法组的同仁为此进行了经年累月的细致打磨,结合智能家居等目标落地场景特点针对性优化,并结合了知识图谱、知识增强等前沿工程技术,而在硬件方面,VOI811采用了自研的SFA(存储优先,Storage First Architecture)架构NPU,针对AI计算“高差异、高并发、高耦合”特性,以存储驱动计算,打破存储墙,在同等条件下数据访问可降低10-100倍,28nm工艺条件下,系统能效比超过4T OPS/W,计算资源利用率超过80%,DDR带宽占用率降低5倍,支持FFT/MFCC/AEC硬件加速。

值得一提的是,VOI811还可实现多意图识别,即一句指令可包含双重意图,如空调场景下,“调制冷模式,20度”,就可以代替遥控器或APP多个操作动作,交互的灵活性、鲁棒性相较以往语音识别芯片解决方案也堪称颠覆式体验。

(基于811芯片的NLP方案特点)

在探境芯片专家看来,公司能够在产品落地上快人一步,主因是算法、算力、数据上三位一体的核心能力,除了上文已经谈到、业界少见的软硬件全栈自研模式,探境科技在场景数据的积累上也有着自己的独到”法宝”,从收集采样、清洗分类再到训练,已经形成高效运行的闭环机制。

基于全栈能力的协同设计、协同优化,不仅使探境科技产品性能参数可以做到更优,也使下游模组、系统厂商少了一分“后顾之忧”,规避了一些案例中软硬件供应商相互“甩锅”的弊病。

逆势而上何以可能

除了产品技术上的诸多独到之处,探境科技对应用场景和用户需求的深刻洞察,也给集微网留下了深刻印象。

当前流行的智能家居蓝牙/WIFI SoC产品方案,在终端消费者处实际使用情况普遍不尽如人意,绝大部分产品在入户后,所谓智能功能就沦为摆设。原因在于用户侧背负了过重的负担,如要启用相关功能往往需要用户主动进行步骤繁琐的配网操作,“七国八制”的定制APP从用户体验角度而言不啻于噩梦,对隐私稍有敏感性的用户,也很难信任一个个陌生开发者的APP安装到自己手机,突兀出现在冰箱、音箱上的所谓“第三屏”、“第四屏”,所提供的内容对用户来说更是累赘而非收益。

相比之下,基于语音的家居智能化,或许是更优选的路径,作为人工智能赛道里堪称覆盖面最广的一个领域,语音可以广泛运用于各种智能化的升级场景下,需要通过遥控器、APP或者物理按键操作的控制意图,均可适用于声控,探境CEO鲁勇感言:“从务虚的角度来看这个事情,我们正在经历一个人类从操纵物体必须要接触的时代,迈向可以比较远距离操控,整个生活生产方式会发生一个巨大的变化”。

而在语音交互产品中,传统联网式产品如智能音箱,在消费者心智中也同样存在隐私安全顾虑,曾经备受公众关注的亚马逊智能音箱Alexa“黑客门”,也佐证了这样的顾虑并非杞人忧天。鲁勇表示:“涉及到语音,这个东西它本身就能听懂你说话。那么大家很自然地会想到,我在屋里面做的任何事情它都在听,如果这个东西是联网的,我天生就会产生不信任,离线在这里有天然的优势”,而免除了配网操作,从用户体验上来说,“插上就能用,打开就能有,这种体验就是人工智能真正到人身边了,而且是安全的”。

基于上述洞察所形成的VOI811等产品差异化特性,也的确得到了下游厂商的热烈反响,笔者在展位现场所见所闻,已然预示了VOI811商业成功的前景。

据鲁勇介绍,该公司AI语音识别芯片累计出货量目前已达到千万量级,覆盖品类广泛,在灯具等细分市场已经建立起优势地位,新一代VOI811芯片送样测试后,下游厂商对这一内部集成了LDO和多种控制通信接口的产品普遍给出了高度评价,其高性能、高灵活性、高集成度的特点,可帮助智能家电、智能车载、智能音箱、人机交互等产品制造商大幅节约产品开发周期及研发、物料成本。

以客户需求为中心,探境科技还依托其软硬件全栈研发能力,配套VOI811打磨了多套Turnkey参考设计模板,使内部技术力量不强的二线乃至白牌厂商,也能够实现新产品快速上市。

当下的白电、消电产业周期中,探境科技的高速成长显得尤为可贵,在笔者看来,这样的逆势成长可谓水到渠成。正是因为市场进入存量“内卷”的平台期,使得供应商在同质化价格战中“蒙头狂奔”之外,有更强的紧迫感“抬头看路”,审视现有主流技术方案和形态的弊端,寻找差异化的产品卖点和业务增长点,更积极尝试不同的技术方案,从而为创新打开机遇窗口。

瞄准未来机遇,探境将始终坚持离线语音控制这一端侧设备交互技术路线,进一步完善其针对高、中、低不同层次市场需求的产品线布局,助力上亿乃至更大出货量级的传统家电产业智能化升级。

结语

约瑟夫·熊彼特在其“创造性破坏”理论中,曾对经济周期与创新涌现的镜像关系做了深刻的总结。而探境科技对端侧设备语音人机交互的洞察与探索,以及下游消电、家电厂商的热烈反响,恰可作为一个有关产业创新周期的生动注脚。

随着离线AI语音控制方案可以预见的加速普及,智能家居消费者,也将很快感受到梦想照进现实的惊艳。

推荐内容