第八章 精度调试

本课程面向给予寒武纪平台进行模型移植的开发者们,帮助大家整理精度调试的思路,提供调试指南
难易程度: |课时:0节课|已学习人数:29
课程目录
第八章 精度调试
课程信息

课程目标

深度学习推理任务,使用定点运算能够极大的提升运算效率。

定点运算相较于浮点运算,有可能带来一定的精度误差。 广泛的实践证明,这种精度损失能够被控制在极小的范围内。

如何在提升运算效率的同时,尽可能降缩小精度差距;如何在精度异常的时候快速定位问题所在,是本节课归纳的主要内容。

本课程面向基于寒武纪平台进行模型移植的开发者们,帮助大家理清精度调试的思路,提供调试指南。

 

评论
暂无评论
相关阅读
暂无相关阅读
申 请 试 用