Google发布新API，支撑练习更小、更快的AI模型

雷锋网音讯，Google今日发布了 Quantification Aware Training（QAT）API，使开发人员可以运用量化的优势来练习和布置模型AI模型。经过这个API，可以将输入值从大调集映射到较小调集的输出，一同，坚持挨近原始状况的准确性。

新的API的方针是支撑开发更小、更快、更高效的机器学习（ML）模型，这些模型十分适合在现有的设备上运转，例如那些核算资源十分名贵的中小型企业环境中的设备。

一般，从较高精度到较低精度的进程有许多噪声。由于量化把小规模的浮点数紧缩为固定数量的信息存储区中，这导致信息丢失，类似于将小数值表明为整数时的舍入差错（例如，在规模[2.0，2.3]中的一切值都可以在相同的存储中表明。）。问题在于，当在多个核算中运用有损数时，精度丢失就会累积，这就需要为下一次核算从头标度。

谷歌新发布的QAT API经过在AI模型练习进程中模仿低精度核算来处理此问题。在整个练习进程中，将量化差错作为噪声引进，QAT API的算法会测验将差错最小化，以便它学习这个进程中的变量，让量化有更强的鲁棒性。练习图是运用了将浮点目标转换为低精度值，然后再将低精度值转换回浮点的操作，然后保证了在核算中引进了量化丢失，并保证了进一步的核算也可以模仿低精度。

谷歌在陈述中给出的测验成果显现，在开源Imagenet数据集的图画分类模型（MobilenetV1 224）上进行测验，成果显现未经量化的精度为71.03％，量化后的精度达到了71.06％。

针对相同数据集测验的另一种分类模型（Nasnet-Mobile）中测验，在量化后仅有1％的精度丢失（74％至73％）。

除了模仿精度下降的核算外，QAT API还担任记载必要的计算信息，以量化练习整个模型或模型的一部分。比方，这可以使开发人员可以经过调用模型练习API将模型转换为量化的TensorFlow Lite模型。或许，开发人员可以在模仿量化怎么影响不同硬件后端的准确性的一同测验各种量化战略。

Google表明，在默许情况下，作为TensorFlow模型优化东西包一部分的QAT API装备为与TensorFlow Lite中供给的量化履行支撑一同运用，TensorFlow Lite是Google的东西集，旨在将其TensorFlow机器学习结构上构建的模型可以适应于移动设备，嵌入式和物联网设备。

“咱们很快乐看到QAT API怎么进一步使TensorFlow用户在其支撑TensorFlow Lite的产品中打破有用履行的边界，以及它怎么为研讨新的量化算法和进一步开发具有不同精度特性的新硬件渠道翻开大门”，Google在博客中写道。

QAT API的正式发布是在TensorFlow Dev Summit上，也是在发布了用于练习量子模型的机器学习结构TensorFlow Quantum之后发布。谷歌也在会议的会话中预览了QAT API。