课程目录
第八章 精度调试
课程信息
课程目标
深度学习推理任务,使用定点运算能够极大的提升运算效率。
定点运算相较于浮点运算,有可能带来一定的精度误差。 广泛的实践证明,这种精度损失能够被控制在极小的范围内。
如何在提升运算效率的同时,尽可能降缩小精度差距;如何在精度异常的时候快速定位问题所在,是本节课归纳的主要内容。
本课程面向基于寒武纪平台进行模型移植的开发者们,帮助大家理清精度调试的思路,提供调试指南。
评论
暂无评论
相关阅读
暂无相关阅读