首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >试图将math.pow值限制在4小数点以下

试图将math.pow值限制在4小数点以下
EN

Stack Overflow用户
提问于 2022-02-17 11:17:13
回答 1查看 101关注 0票数 0

我试图将Math.Pow((Density * 10), -12)的值限制在4小数点以下。

其中double Density = 0;被定义为变量

现在,如果是Density=7;,那么Math.Pow((Density * 10), -12)计算为7.22476158090089E-23,但我希望它像7.2247 E-8一样。

任何想法都将不胜感激。

EN

回答 1

Stack Overflow用户

回答已采纳

发布于 2022-02-17 11:26:01

如果要将小数精度限制在小数点的4位,可以使用指数格式说明符,指定要显示"E4"的小数数。

代码语言:javascript
复制
var answer = Math.Pow(70, -12);
var displayVal = string.Format("{0:E4}", answer);
// output
7.2248E-023

请注意,

指数总是由一个正负号和最小的三位数组成。

但是,您可以使用以下通用格式说明器

如果使用科学表示法.,指数包含至少两位数的。这与指数格式说明符产生的科学表示法的格式不同,指数型格式说明符包含指数中最小的三位数字。

您需要使用G5生成5个有效数字:

代码语言:javascript
复制
var answer = Math.Pow(70, -12);
var displayVal = string.Format("{0:G5}", answer);
// output
7.2248E-23
票数 1
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/71157132

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档