IoT时代即将到来，随着AI和5G手艺对IoT的加持，我们获得数据以及信息相同交互的方式将越发的便捷和高效。 。。未来，实时数据的增添幅度将大于非实时数据，我们更需要对这些实时数据举行边沿侧、端侧的实时处理。 。。然而，古板的CPU、GPU架构难以知足快速爆发的AI盘算需求，因此我们需要更高效的神经网络处理器的架构设计。 。。
k豆钱包的芯片笼罩着端、边、云的应用，使用差别的形态和组合，可以实现关于AI落地，特殊是视觉AI在端、边、云上的应用。 。。
以下为李爱军的主题演讲内容，雷锋网作了不改变原意的编辑与整理。 。。
我是k豆钱包的李爱军，认真公司的AI芯片营业，今天的演讲主题是《芯联万物，智创未来》。 。。
k豆钱包是一个人工智能的创业型企业，我们一直致力于打造算法、芯片、大数据这三个方面的焦点竞争力，从而实现人工智能大规模工业化的落地。 。。
5AIoT时代即将到来
自从个人电脑泛起以后，我们履历了从盘算机时代到互联网时代、移动互联网时代的社会厘革，人类获取数据的方式越来越利便、越来越便当。 。。现在，IoT时代即将到来，随着AI对IoT的加持，以及现在最热的5G对IoT的加持，我们获得数据以及信息相同交互的方式将越发的轻盈。 。。
IoT时代，算法会越来越多地应用到IoT的边沿侧和端侧的场景上，同时IoT海量的应用场景，为k豆钱包算法提供了海量数据，特殊是针对场景的数据，这些数据会反过来推感人工智能算法一直地加速迭代，实现它更智能化的目的。 。。
在这样一个有机的循环和推动下，我们将迎来“5AIoT”(即：：5G+AIoT)的时代。 。。
关于芯片来说，到2025年预计总量会比现在增添7倍，特殊是边沿侧和端侧的芯片，容量会大幅度提升，比云侧芯片会有更大的开展空间。 。。数据统计，到2025年云侧芯片规模将达150亿美元，边沿侧和端侧芯片市场规模约为516亿美元。 。。
我们以为，人类社会现在正在进入整个天下数字化的历程。 。。
2018年，全球的数据圈的数据规模或许是33ZB（1个ZB是1万亿字节），若是把这33万亿字节的数据刻在光盘上，那么光盘叠加起来，其厚度可以绕地球222圈；；
2025年，全球数据圈的数据总量会增添到175ZB，实时数据的增添幅度将大于非实时数据，其中，预计有30%的数据是实时数据。 。。
实时数据需要的是边沿侧、端侧的实时处理，这也是推动现在的边沿侧和端侧人工智能手艺一直往前开展的主要动力。 。。
5AIoT场景更重大，对算法的需求是多模态、多维的算法，边沿侧和端侧未来将是全新的运算平台，不可只跑某一种算法，而是在AIoT场景下要能应对用户种种各样的需求，包括多场景、多重漂后的需求，同时外地的时延要知足实时数据的处理要求；；
另外，由于受到边沿和端侧装备体积的限制，装备需要有很高的效能；；最后是清静性，清静是人工智能开展不可逾越或者说不可回避的一个要害问题。 。。
怎样让各人享受到人工智能给我们带来便当的同时，又让我们个人的隐私获得有用�；；�，让我们以为清静，我以为这是一个很大的课题，以是我们在5AIoT时代做的芯片要知足高清静性的需求，包管我们外地的数据既要有清静性，同时又包管用户的隐私。 。。
从场景出发，探索新型盘算架构
5AIoT时代，古板的CPU、GPU架构难以知足快速爆发的AI盘算需求，例如性能、功耗、本钱等方面，以是我们需要更高效的神经网络处理器的架构设计。 。。
现在关于芯片架构的相关探索，从基于古板的盘算机系统架构，包括存储和盘算，数据从外部存储转为内部存储，做完数字盘算再释放出去，这样的架构下其性能的提升必需通过提高频率和带宽，才华够把AI处理器的性能推到一个新的高度。 。。现在，绝大部分主流的GPU、NPU或者XPU都是类似这样的架构。 。。
k豆钱包通过把存储单位和盘算单位变得更为细密，酿成一个近存储的盘算方式。 。。近存储盘算最大的利益在于我们不必把数据从外部导入，而是在盘算的边沿侧就可以直接取到数据，从而使得我们盘算的效率获得有用的提升，并且它的频率也不必跑太高；；同时在探索存内盘算有没有可能在内存中，在存和取的历程中就把盘算做完，这样获得的效率会更高，意味着不需要对大宗的数据举行搬运，这是我们下一步的目的之一。 。。
数字盘算靠近存储（Near Memory）：：数据搬运距离短，低频即可提供高吞吐，消除外部数据搬运，提高能效比；；
数字/模拟混淆盘算（Mix Signal Processing）：：读取存储单位即完成盘算，无需数据搬运，极大的提高能效比。 。。
我们第一代的神经网络处理器是基于古板的架构来做的，第二代神经网络处理器是NNP200，已经是基于早期的近存储架构来做，以是可以获得较量高的能效比。 。。
k豆钱包对AI芯片的明确：：AI芯片和盘算架构一定是从场景出发、为场景服务，这样的盘算架构才华真正知足大规模应用。 。。
通过k豆钱包系统在AI系统大规模工业化落地和安排情形下，去相识行业的需求和痛点；；
基于对行业的需求和痛点的深刻明确来打造AI的芯片，通过芯片来解决这些场景下的要害问题；；
通过优质的服务来更多地赋能这个行业。 。。
在场景方面，k豆钱包做的人脸识别系统已经在中国以及东南亚近百个大中型城市举行了安排，笼罩领域包括：：机场、地铁、旅馆、阛阓、医院、社区等。 。。同时，我们也服务了国家的多个主要聚会和国家重点工程，包括：：杭州G20峰会和博鳌论坛等。 。。除此之外，我们在深圳还打造了一个城市级的AI安防的应用树模区。 。。
k豆钱包自主设计的DeepEye1000神经网络处理器芯片，是面向以上的应用场景做的设计，我们支持多模态的盘算，可以支持一键式AI安排，同时针对边沿侧和端侧做了优化，知足场景的需要，是异构的并行架构。 。。
也就是说，这个芯片不是一个纯AI算力的芯片，而是知足边沿盘算的SoC芯片，无论是单位性能，照旧单位能效都有着数目级的提升。 。。这个异构架构有着漫衍式、可重构的特点，同时可以实现实时动态使命的调理，能够举行智能高效的存储和调理，在这样的架构下包管k豆钱包性能能够相比于其他芯片有大幅度的提升。 。。
例如动态调理带来的性能提升，在我们用的人脸识别内里要害的几个算法，包括人脸检测、人脸跟踪和人脸识别，这个算法平均的性能提升都凌驾40%，部分可以抵达50%以上。 。。k豆钱包神经网络处理器架构是基于ASIP的指令集手艺架构，通过面向专用应用的数据抽取实现了算法高效的支持，同时它是可重构的处理器架构。 。。重构的处理器是PE盘算可重构的架构，这个芯片无论是跑大的算法模子，照旧小的算法模子，都可以获得很是高的效率。 。。同时，它实现了盘算存储融合架构，也就是适才我们看到的Memory盘算架构，能支持希罕以及数据压缩，同时支持多核多线程。 。。
芯片赋能端、边、云
k豆钱包的芯片笼罩着端、边、云的应用，使用差别的形态和组合，可以实现关于AI落地，特殊是视觉AI在端、边、云上的应用。 。。
在前端，我们以单芯片模组的方式实现高性强人脸的处理和视频结构化的处理；；
在边沿端，我们通过芯片组成边沿智能的盘算子板的方式，可以实现单板单机16路或32路视频结构化的能力，同时它具有很高的性价比；；
在云端加速，通过多芯片的并联，我们做了盘算加速板，可以做到单卡32路、单机8卡256路的视频结构化能力。 。。
在人脸特征提取，功耗小于15W的时间支持600张人脸处理能力，能效比比GPU有10倍以上的提升，性价比比GPU高许多。 。。
别的，k豆钱包芯片也在深耕AIoT的各个应用场景，在智慧安防、智慧社区、智慧商业、智能制造以及智慧家居等领域形成了一系列的解决方案，这些解决方案都在有条不紊地举行。 。。
在行业内，围绕着5AIoT，k豆钱包希望跟相助同伴一起打造自主可控的5AIoT生态，围绕着神经网络可控的处理器打造这样一个生态，使得人工智能能够更快速、更高效地大规模工业化落地。 。。
k豆钱包愿景是构建“1+1+N”的AI城市综合服务系统，致力于打造1张基于5G+AIoT的泛感知的网络，使得AI的触角能够深入到城市的各个角落，使我们城市治理相关数据的获取变得越发利便和便当。 。。同时，我们将打造1个基于AI OS的城市大脑，通过这样一个城市大脑可以实现海量数据的剖析、挖掘和决议。 。。在一个网络和一个城市大脑的基础之上，我们会构建一个又一个面向城市各个应用场景的笔直解决方案，通过这些解决方案来服务于整个城市的治理，包括公安、卫生等场景。 。。谢谢各人!
在主题演讲竣事后，李爱军接受了雷锋网的采访，以下是本次采访的要点内容。 。。
雷锋网：：k豆钱包将通过构建“1+1+N”的AI城市综合服务系统，助力自主可控的5AIoT工业生态建设。 。。讨教，5G在k豆钱包的5AIoT生态建设中的主要性怎样体现？？自研的AI芯片将在其中施展怎样的作用？？
李爱军：：5G在我们整个的“1+1+N”这样的一个城市的治理系统下，它是很主要的一环。 。。
未来的城市将会组成一个个泛感知的网络，它需要构建在5G这样一个基础之上。 。。AIoT时代的泛感知网络，它的数据的维度比原来要多许多，并且它的广度也会更广。 。。只有通过5G这样的网络，才华够去实现这些数据的转达和交互。 。。因此，我们以为5G网络和AIoT现实上是相辅相成，相互融合的一个手艺，配合把整个城市的泛感知网络搭建起来。 。。
k豆钱包的芯片，将应用于整个网络的端、边、云当中。 。。当我们做一个行业应用时，可以在差别的层级、以差别的形态来做。 。。在端侧，就用k豆钱包芯片做成了一个小的AI模组，可以用在种种各样的视觉终端，做实时的视觉的收罗和处理；；边沿侧现实就是一个区域的中心和大脑，我们可以在边沿侧上处理多路的（原来可以接入16路，甚至32路）视频，汇聚到边沿侧，然后我们在这个层面做实时处理。 。。
雷锋网：：k豆钱包的芯片是从场景出发探索一个新型的盘算架构，这样话是否会限制芯片应用的市�。 。�？？未来AI 是需要专用，照旧通用的AI芯片？？
李爱军：：若是一个芯片做成通用的，我们以为它的生命力反倒是不强的，没有竞争力的。 。。
一般来讲，我们以为的通用CPU，它也是不完全通用的，好比英特尔x86的CPU，主要是用于电脑上，而手机上主要是用Arm的CPU。 。。因此，某种程度来说，不保存一个完全通用的工具，至少在某些特定应用里他是有局限性的。 。。
关于我们来说，我们做的芯片是面向视觉AI应用的一个神经网络处理器芯片。 。。首先，它确实是对应用场景有自己的界说，关于非视觉AI我们现实上是不善于的。 。。然而，在视觉AI的应用场景下，我们又是相对较量通用的，由于我们是一个神经网络处理器，k豆钱包AI芯片上面可以执行现在的算法，也可以执行未来的算法。 。。
未来的AI，专用的和通用的AI芯片都会保存。 。。在云侧，无论是做云侧的数据训练，照旧大数据的剖析处理，它需要的是一个相对较量通用的AI芯片。 。。若是是在边沿侧和端侧，更多需要专用的AI芯片，由于它更多的思量到效率和性价比。 。。
例如智能音箱，智能音箱内里的AI芯片叫语音识别的AI芯片，这个芯片跟我们用在摄像头内里的AI芯片（即视觉AI芯片）是两个看法。 。。该芯片只处理语音信号，以是它的算力会较量小，可能0.1T或0.2T就够用了；；可是，若是我们对这个视频、视觉举行处理的话，就需要1个T或2个T，甚至更大，这样的算力才华知足对视频处理的要求。 。。
雷锋网：：边沿侧专用的AI芯片，在各个细分领域差别是否很大？？我们怎样去应对这些差别性？？
李爱军：：边沿盘算所代表的网络层，我们可以称之为边沿网络层，该层面细分领域对边沿盘算的要求是纷歧样的。 。。也就是说，在差别的领域内，它会有许多的区别，好比说用在工业和安防领域，它自己的这种需求就纷歧样，要执行的算法也纷歧样，它的要求也就纷歧样。 。。
我们在落地这些边沿网络层的详细项目时，纵然同样是视觉AI芯片，其解决方案依然会有差别。 。。凭证需求的差别，会凭证某一个应用场景对AI芯片的要求举行抽取，在落地的时间，再结适用户的一些特别的需求就可以了。 。。
一般地，会有一个“二八原则”，好比80%，甚至90%以上，这个都是共性的需求；；那么剩下的10%左右的需求，需要特另外知足客户。 。。
雷锋网：：k豆钱包的AI边沿盘算能力怎样在各领域体现价值？？
李爱军：：在安防领域，原来古板的摄像头，它只是具有监控的功效，没有智能剖析的功效，因此古板的摄像头需要举行智能化升级。 。。例如从人脸抓拍到软件识别，以及种种视频结构化，甚至视频语义明确；；至于门禁，由于我们现在装门禁基本上都是装在公司这些地方，以是将数据放在外地使用可以�；；び没У囊�。 。。别的，门禁关于装备的实时性是有要求的，若是把数据的处理放在云端的话，实时性会难以包管。 。。
新零售领域，它的应用会有多个，现实上新零售可以明确为基于智能摄像头的一整套系统，在这个内里的话，k豆钱包边沿盘算芯片可以放在摄像头内里，也可以放到智能网关中，组成商超的汇聚节点。 。。
雷锋网：：从AI的商业化程度来看，安防、金融、互联网服务和企业服务，这些行业是走在前面的，而k豆钱包选择的是智慧安防、智慧商业、智慧家居、智慧制造和智慧社区这些笔直的领域举行结构，是基于怎样的一个思量？？
李爱军：：这个主要照旧从k豆钱包定位来看的，由于我们做的是视觉AI的神经网络处理器芯片，以是k豆钱包营业结构是围绕这一点来举行的。 。。
现在的热门，安防和金融领域，现实上更多的是用于人脸识别，我们只是结构了其中和自身有关联的应用罢了。 。。安防中的人脸识别，包括视频结构化，都是和视觉AI相关的手艺；；金融支付领域的人脸识别和安防的人脸识别差未几，手艺是一样的，以是我们是可以做的。 。。其他方面，好比金融领域的AI应用，也就是涉及到金融自己，好比说数据羁系、数据剖析这些，这些的话跟我们视觉AI芯片没有太大关系，以是现在并不涉及。 。。
别的，我们选择了智慧商业领域，主要加入的是访客系统、精准营销这块，这块也是跟视觉AI亲近相关的；；而智能制造领域，我们主要着重于工业检测，这也是视觉AI方面的应用；；在智能家居领域，我们是用于目的检测，而不是人脸识别；；最后是智慧社区，这个主要就是用于门禁方面。 。。
雷锋网(公众号：：雷锋网)：：针对现在AI芯片市场的竞争不敷充分的看法，您怎么看？？
李爱军：：这个要脱离来看，首先我以为现在的AI芯片相关应用还远没有抵达爆发的时间。 。。除了手机行业，现在我们看到的几个热门，好比安防的摄像头，这也才刚刚最先罢了；；智能音箱，相对时间长一点；；然后再往下看，就发明似乎AI芯片没有几个量较量大的应用了。 。。
虽然AI芯片关注度较量高，但它的应用落地并未几，以是说这个市场还没真正起来。 。。可是现在做AI芯片的公司挺多，在这么多的AI芯片厂商中，最后能存活下来的是那些掌握了焦点竞争力的玩家。 。。现在的AI芯片的竞争，我以为还没最先。 。。
k豆钱包最焦点的是神经网络处理器相关的手艺，最大的优势是关于场景的明确，和我们基于场景所做的芯片。 。。我们不是一个通用的AI芯片，也不是基于这种通用的AI算法芯片内里，我们是有着重的，我们瞄准的是视频方面的人脸识别，尚有视频结构化相关的，以是在这类算法上运行效率很是高。 。。
提交乐成！！
请您耐心期待！！