c1=1.4385* 10^4
c2=1.189* 10^8
在命令行里输入上述变量:
IDL> c1=1.4385*10^4
IDL> c2=1.189*10^8
结果查看:
IDL> c1
14385.000
IDL> c2
-9435.9043
c2明显是错误的,且不是由于位数太多而显示为负数.
正确的输入方式是:
IDL> c1=1.4385*10.0^4
IDL> c2=1.189*10.0^8
IDL> c1,c2
14385.000
1.1890000e+008
IDL>
所以科学计数的时候,千万要输入10.0,而不是10
最后
以上就是难过面包最近收集整理的关于IDL科学计数法乘方注意事项的全部内容,更多相关IDL科学计数法乘方注意事项内容请搜索靠谱客的其他文章。
本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
发表评论 取消回复