首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >.NET浮动精度似乎是9位数?

.NET浮动精度似乎是9位数?
EN

Stack Overflow用户
提问于 2013-08-21 15:13:07
回答 1查看 538关注 0票数 2

我正在将一个应用程序从.NET移植到Mono,在代码中有一段时间,我可以看到浮点数具有158136.422值。我对浮点数的理解是,它的精度是7位,那么这个数字如何被接受呢?如我所料,Mono将其调整为7位数。

如果在C#我有

代码语言:javascript
复制
float f = 158136.422f;

四舍五入到158136.4。

EN

回答 1

Stack Overflow用户

回答已采纳

发布于 2013-08-21 15:16:27

当您编写此代码时:

代码语言:javascript
复制
float f = 158136.422f;

分配给f的确切值是158136.421875

在字符串表示中输出多少位数是另一回事。

当我使用:

代码语言:javascript
复制
float f = 158136.422f;
Console.WriteLine(f);
Console.WriteLine(f.ToString("r"));

我得到的结果是:

代码语言:javascript
复制
158136.4
158136.422

在Mono和.NET上。

票数 10
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/18361239

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档