在AI初期阶段 围绕芯片的生态架构该如何布局?
进入AI早期时代,具备底层生态构建能力将变得尤为重要。
第21届高交会期间,云天励飞发布了首款自主可控的神经网络处理器芯片-云天初芯TMDeepEye1000,这也是面向5G+AIoT时代的一个平台。
据介绍,该芯片专注边缘和端侧视觉应用,基于多核异构并行计算架构设计,内置四核神经网络处理器,峰值算力达2.0Tops。
在接受等媒体采访时,云天励飞董事长兼CEO陈宁指出,在当前人工智能技术发展并不成熟的阶段,设计的芯片难以成为通用芯片,而应该是面向场景的芯片。
因此云天励飞在设计该芯片时的理念是,从场景入手,通过场景积累的一定量数据,再用算法和数据驱动,反哺定义芯片要实现怎样的场景和功能。
云天励飞副总裁李爱军则介绍道,公司已经在规划下面两代芯片产品,也将主要面向端侧和边缘侧,预计到2020年底会有新的产品规划出炉。
搭建AI开发生态
据介绍,云天初芯TMDeepEye1000采用阿里平头哥玄铁810嵌入式处理器,采用RISC指令架构。为了提高芯片的易用性,云天励飞还打造了DETVM开源开放工具链,兼容TVM开源生态。
李爱军表示,云天励飞此次与平头哥的合作,主要着力点在于处理器能力方面,下一步会考虑探讨更底层架构层面的能力合作。
陈宁进一步解释道,这是一款云天励飞自主设计的神经网络处理器芯片和指令集,在最开始进行芯片设计时,公司团队也在寻找CPU合作伙伴,最后发现与平头哥的合作可以更加匹配当前场景下对CPU的要求,相比市面上主流的其他产品来说,能够更具性价比、且能与公司定义产品的运算单元更好匹配,从而解决物联网前端的运算需求。
陈宁提到了“有效算力”这一概念。他指出,由于当前人工智能技术仍处在非常早期的阶段,还没有进入通用人工智能时代,因此不会存在通用的AI芯片。
“今日的AI芯片一定是面向场景的。”他续称,做芯片关键是能否落地和大规模商用,面向场景一定离不开工具链、算法和芯片紧密地绑定和密切结合,在不同的场景下这颗芯片能够提供的有效算力是更有价值的技术指标。因此云天励飞提出一个概念,叫做芯片即服务。
为此,云天励飞还发布了人工智能“星云”生态战略。据云天励飞首席科学家王孝宇介绍,云天励飞将共享自己的技术能力,在硬件开发、算力支持、产业化服务和算法定制方面的能力一同输出。
王孝宇称之为“双11开放AI生态计划”,这意味着借助这些AI开发能力,可以帮助合作伙伴在1周完成硬件、1周适配算法、1周对接服务,最终在1个月内完成AI能力的从无到有。
面向端和边缘侧发力
陈宁指出,过去3-5年间技术的成熟正助推全民进入AI时代,物联网则是基于城市级别的大规模传感器数据进行采集,并运用5G通讯方式提高了传输速率。
他分析道,目前在5G时代的端-边-云生态中,边缘计算属于新出现的机会,这将为智慧城市、社会治理能力等方面带来很大推动作用。
“物联网面向不同场景会有不同要求的计算节点,其中会有很大的机会。目前我们是把端侧和边缘侧统筹考虑,区分于云端。”
这也是云天励飞筹划中的下一代芯片将面向端侧和边缘侧的原因所在。
李爱军进一步指出,从端-边-云的节点来看,边缘侧的作用是把端侧传来的非结构化的数据或者模拟信号,转化成云端可以处理的结构化数据;云侧则是汇集海量数据后进行大数据挖掘和分析决策。
“端侧和边缘侧面对的是两大场景,但单纯端侧的能力是不够的,因为端侧有很多限制,大家会要求它便宜、小,但算力是有限的;边缘可以提供相对端侧更丰富和大量的运算资源,同时,实际上边缘侧的数据没有上云依旧留存在本地,因此还可以实现隐私保护的作用。”他表示,因此从云天励飞的技术架构和解决方案来说,边缘侧和端侧是同等重要的事。
而基于云天励飞自主设计的神经网络处理器,实际上边缘侧和端侧都可以适用,只是集成到了不同算力和规格的芯片中去。
当然目前为止,边缘计算侧的发展实际上依然相对较慢。李爱军分析道,这主要源于目前行业关于边缘计算的适用场景,并没有很清晰的定义;此外算法还不够,在AI目前发展进程之下,仅语音和人脸识别相对成熟,但即使是放大到图像识别范畴,依然处在相对初级的算法发展阶段,这反过来也影响了边缘侧的应用发展进程。
“但趋势是确定的,在未来的AI时代,人工智能会像人一样智能,看到东西就可以进行判断。”他续称,只是将从识别到判断乃至于决策,整个链条非常复杂,这需要产业生态的共同推动。
李爱军指出,在人工智能的未来,端侧和边缘侧会走向有机融合发展。“因为端和边都是为了云端最终实现能力而服务。”