深圳自主可控语音识别标准

    什么是语音识别？语音识别(AutomaticSpeechRecognition,ASR)：通俗地讲语音识别就是将人类的声音信号转化为文字或者指令的过程。语音识别以语音为研究对象，它是语音信号处理的一个重要研究方向，是模式识别的一个分支。语音识别的研究涉及微机技术、人工智能、数字信号处理、模式识别、声学、语言学和认知科学等许多学科领域，是一个多学科综合性研究领域。语音识别基本原理语音识别系统基本原理：其中：预处理模块滤除原始语音信号中的次要信息及背景噪音等，包括抗混叠滤波、预加重、模/数转换、自动增益控制等处理过程，将语音信号数字化；特征提取模块对语音的声学参数进行分析后提取出语音特征参数，形成特征矢量序列。特征提取和选择是构建系统的关键，对识别效果极为重要。由于语音信号本质上属于非平稳信号，目前对语音信号的分析是建立在短时平稳性假设之上的。在对语音信号作短时平稳假设后，通过对语音信号进行加窗，实现短时语音片段上的特征提取。这些短时片段被称为帧，以帧为单位的特征序列构成语音识别系统的输入。由于梅尔倒谱系数及感知线性预测系数能够从人耳听觉特性的角度准确刻画语音信号，已经成为目前主流的语音特征。为补偿帧间假设。语音识别是门综合性学科，包括声学、语音学、语言学、信号处理、概率统计、信息论、模式识别和深度学习等。深圳自主可控语音识别标准

    DFCNN使用大量的卷积直接对整句语音信号进行建模，主要借鉴了图像识别的网络配置，每个卷积层使用小卷积核，并在多个卷积层之后再加上池化层，通过累积非常多卷积池化层对，从而可以看到更多的历史信息。2018年，阿里提出LFR-DFSMN（LowerFrameRate-DeepFeedforwardSequentialMemoryNetworks）。该模型将低帧率算法和DFSMN算法进行融合，语音识别错误率相比上一代技术降低20%，解码速度提升3倍。FSMN通过在FNN的隐层添加一些可学习的记忆模块，从而可以有效的对语音的长时相关性进行建模。而DFSMN是通过跳转避免深层网络的梯度消失问题，可以训练出更深层的网络结构。2019年，百度提出了流式多级的截断注意力模型SMLTA，该模型是在LSTM和CTC的基础上引入了注意力机制来获取更大范围和更有层次的上下文信息。其中流式表示可以直接对语音进行一个小片段一个小片段的增量解码；多级表示堆叠多层注意力模型；截断则表示利用CTC模型的尖峰信息，把语音切割成一个一个小片段，注意力模型和解码可以在这些小片段上展开。在线语音识别率上，该模型比百度上一代DeepPeak2模型提升相对15%的性能。开源语音识别Kaldi是业界语音识别框架的基石。

    广州量子语音识别供应在安静环境、标准口音、常见词汇场景下的语音识别率已经超过 95%。

    Hinton提出深度置信网络（DBN），促使了深度神经网络（DNN）研究的复苏。2009年，Hinton将DNN应用于语音的声学建模，在TIMIT上获得了当时好的结果。2011年底，微软研究院的俞栋、邓力又把DNN技术应用在了大词汇量连续语音识别任务上，降低了语音识别错误率。从此语音识别进入DNN-HMM时代。DNN-HMM主要是用DNN模型代替原来的GMM模型，对每一个状态进行建模，DNN带来的好处是不再需要对语音数据分布进行假设，将相邻的语音帧拼接又包含了语音的时序结构信息，使得对于状态的分类概率有了明显提升，同时DNN还具有强大环境学习能力，可以提升对噪声和口音的鲁棒性。简单来说，DNN就是给出输入的一串特征所对应的状态概率。由于语音信号是连续的，各个音素、音节以及词之间没有明显的边界，各个发音单位还会受到上下文的影响。虽然拼帧可以增加上下文信息，但对于语音来说还是不够。而递归神经网络（RNN）的出现可以记住更多历史信息，更有利于对语音信号的上下文信息进行建模。由于简单的RNN存在梯度炸和梯度消散问题，难以训练，无法直接应用于语音信号建模上，因此学者进一步探索，开发出了很多适合语音建模的RNN结构，其中有名的就是LSTM。

    语音识别在噪声中比在安静的环境下要难得多。目前主流的技术思路是，通过算法提升降低误差。首先，在收集的原始语音中，提取抗噪性较高的语音特征。然后，在模型训练的时候，结合噪声处理算法训练语音模型，使模型在噪声环境里的鲁棒性较高。在语音解码的过程中进行多重选择，从而提高语音识别在噪声环境中的准确率。完全消除噪声的干扰，目前而言，还停留在理论层面。（3）模型的有效性识别系统中的语言模型、词法模型在大词汇量、连续语音识别中还不能完全正确的发挥作用，需要有效地结合语言学、心理学及生理学等其他学科的知识。并且，语音识别系统从实验室演示系统向商品的转化过程中还有许多具体细节技术问题需要解决。智能语音识别系统研发方向许多用户已经能享受到语音识别技术带来的方便，比如智能手机的语音操作等。但是，这与实现真正的人机交流还有相当遥远的距离。目前，计算机对用户语音的识别程度不高，人机交互上还存在一定的问题，智能语音识别系统技术还有很长的一段路要走，必须取得突破性的进展，才能做到更好的商业应用，这也是未来语音识别技术的发展方向。在语音识别的商业化落地中，需要内容、算法等各个方面的协同支撑。对于强噪声、超远场、强干扰、多语种、大词汇等场景下的语音识别还需要很大的提升。

    用来描述双重随机过程。HMM有算法成熟、效率高、易于训练等优点，被***应用于语音识别、手写字识别和天气预报等多个领域，目前仍然是语音识别中的主流技术。HMM包含S1、S2、S3、S4和S55个状态，每个状态对应多帧观察值，这些观察值是特征序列(o1、o2、o3、o4,...,oT)，沿时刻t递增，多样化而且不局限取值范围，因此其概率分布不是离散的，而是连续的。自然界中的很多信号可用高斯分布表示，包括语音信号。由于不同人发音会存在较大差异，具体表现是，每个状态对应的观察值序列呈现多样化，单纯用一个高斯函数来刻画其分布往往不够，因此更多的是采用多高斯组合的GMM来表征更复杂的分布。这种用GMM作为HMM状态产生观察值的概率密度函数(pdf)的模型就是GMM-HMM，每个状态对应的GMM由2个高斯函数组合而成。其能够对复杂的语音变化情况进行建模。把GMM-HMM的GMM用DNN替代，HMM的转移概率和初始状态概率保持不变。把GMM-HMM的GMM用DNN替代DNN的输出节点与所有HMM(包括"a"、"o"等音素)的发射状态一一对应，因此可通过DNN的输出得到每个状态的观察值概率。DNN-HMM4.端到端从2015年，端到端模型开始流行，并被应用于语音识别领域。由于语音交互提供了更自然、更便利、更高效的沟通形式。河南语音识别教程

舌头部位不同可以发出多种音调，组合变化多端的辅音，可产生大量的、相似的发音，这对语音识别提出了挑战。深圳自主可控语音识别标准

    Google将其应用于语音识别领域，取得了非常好的效果，将词错误率降低至。如下图所示，Google提出新系统的框架由三个部分组成：Encoder编码器组件，它和标准的声学模型相似，输入的是语音信号的时频特征；经过一系列神经网络，映射成高级特征henc，然后传递给Attention组件，其使用henc特征学习输入x和预测子单元之间的对齐方式，子单元可以是一个音素或一个字。，attention模块的输出传递给Decoder，生成一系列假设词的概率分布，类似于传统的语言模型。端到端技术的突破，不再需要HMM来描述音素内部状态的变化，而是将语音识别的所有模块统一成神经网络模型，使语音识别朝着更简单、更高效、更准确的方向发展。语音识别的技术现状目前，主流语音识别框架还是由3个部分组成：声学模型、语言模型和解码器，有些框架也包括前端处理和后处理。随着各种深度神经网络以及端到端技术的兴起，声学模型是近几年非常热门的方向，业界都纷纷发布自己新的声学模型结构，刷新各个数据库的识别记录。由于中文语音识别的复杂性，国内在声学模型的研究进展相对更快一些，主流方向是更深更复杂的神经网络技术融合端到端技术。2018年，科大讯飞提出深度全序列卷积神经网络（DFCNN）。

    深圳自主可控语音识别标准