电子产业一站式赋能平台

PCB联盟网

搜索
查看: 1140|回复: 0
收起左侧

pi值截断误差的处理问题

[复制链接]

571

主题

910

帖子

4781

积分

四级会员

Rank: 4

积分
4781
发表于 2022-10-3 11:07:37 | 显示全部楼层 |阅读模式
我编写代码过程中,需要依据上一步的结果进行下一步的操作,而在MATLAB中输入π,会产生截断误差,导致结果中出现极小的实数(实际结果应该为0),进而会对下一步的计算产生影响。请问各位大佬,有什么能够避免这种问题么
pi值截断误差的处理问题-1.jpg
回复

使用道具 举报

发表回复

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则


联系客服 关注微信 下载APP 返回顶部 返回列表