English


深鉴科技语音识别加速系统上线AWS

2018-03-06 15:42 来源:中国网科学 
2018-03-06 15:42:02来源:中国网科学作者:责任编辑:杨莹

  成为首家上线基于FPGA平台加速方案的中国人工智能公司

  2018年3月5日,深鉴科技宣布在亚马逊AWS正式上线基于深鉴Descartes稀疏神经网络处理架构的自动语音识别引擎DDESE (DeePhi Descartes Efficient Speech Recognition Engine),开始面向全球用户提供加速试用服务。DDESE自动语音识别加速引擎在AWS的发布,标志着深鉴科技成为首个在AWS上线基于FPGA平台加速方案的中国人工智能公司。

image.png

  FPGA芯片可定制化和多功能的灵活特性,满足了云计算便捷经济、易于扩展的需求。从2016年起,各大云服务提供商就开始部署FPGA云加速业务。全球最大的云供应商亚马逊网络服务(AWS)与FPGA龙头厂商赛灵思 (Xilinx)达成合作,充分证明了云计算数据中心将是FPGA应用释放潜力的重要市场。同时,通过大型数据中心的影响力和服务能力,FPGA影响着数十万应用开发商和企业用户,快速成为公有云服务青睐的应用趋势。

  深鉴所发布的DDESE聚焦语音识别场景,构建了以赛灵思FPGA为计算平台的自动语音识别系统加速引擎,可以为用户提供在AWS上端到端的语音识别服务。基于FPGA平台,结合深鉴科技算法、软件和硬件协同设计的深度学习加速解决方案,目前DDESE初始版本在语音识别的计算环节是GPU计算速度的2倍。此次深鉴科技获得AWS系统服务授权,在云端部署FPGA语音识别加速方案,从而可以面向全球用户提供加速服务,并支持其降低开发与部署成本,消除硬件壁垒,同时通过软硬件的协同优化,取得更高效的云运算能力。

image.png

  深鉴的LSTM加速引擎能够有效地缩短语音识别、机器翻译等AI时序类应用的延时。深鉴CTO单羿表示:“我们在亚马逊AWS上发布DDESE的目的,是通过基于Xilinx FPGA的ESE引擎来展示AI加速能力,并通过云端推广让更多客户了解深鉴的语音识别全流程解决方案。我们非常高兴可以和Xilinx与AWS一起来构建AI云端加速生态。”

  技术测试阶段,采用相同的网络和输入数据,该款自动语音识别引擎端到端延迟相比GPU(Tesla P4 + cudnn6020)、CPU(Intel(R) Xeon(R) CPU E5-2686 v4 @ 2.30GHz, 8 processors)的加速比分别为2.06倍和6.59倍,其中LSTM部分的加速比分别为2.82倍和8.64倍。不久之后深鉴还将发布新版本的DDESE。未来FPGA与云端业务结合还将不断扩展及深入,深鉴科技将持续优化技术的功耗性能,扩大FPGA的加速特性,实现公有云服务的提速。

image.png

[责任编辑:杨莹]

手机光明网

光明网版权所有

光明日报社概况 | 关于光明网 | 报网动态 | 联系我们 | 法律声明 | 光明员工 | 光明网邮箱 | 网站地图

光明网版权所有