首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >C#双精度、小数问题

C#双精度、小数问题
EN

Stack Overflow用户
提问于 2011-06-12 04:05:14
回答 6查看 2K关注 0票数 0

为什么这样计算:双精度数= (13 /(13+12+13))

等于0?

我想应该在0.34左右!

谢谢!

EN

回答 6

Stack Overflow用户

回答已采纳

发布于 2011-06-12 04:11:11

因为您正在用int来划分int。你应该做的是

代码语言:javascript
复制
double number = (13.0 /(13.0+12.0+13.0));
票数 6
EN

Stack Overflow用户

发布于 2011-06-12 04:06:53

都是整数。所以它做整数除法。并因此截断为下一个较低(更接近0)的整数。

在像13.0这样的数字上添加一个.0,使其成为双精度数。

票数 1
EN

Stack Overflow用户

发布于 2011-06-12 04:06:25

因为您在公式中使用了所有INT -它也将被视为结果的INT

试着这样做:

代码语言:javascript
复制
var result = 13.0 / (13.0 + 12.0 + 13.0)

你的结果将是:

代码语言:javascript
复制
0.34210526315789475
票数 0
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/6318252

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档