首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >计算百分比时的意外结果--即使在整数除法规则中进行因式分解时

计算百分比时的意外结果--即使在整数除法规则中进行因式分解时
EN

Stack Overflow用户
提问于 2015-06-15 13:50:18
回答 1查看 268关注 0票数 1

我试图用百分比来表示电池电压。我的电池级别是(全球) uint16 in mV。我有一个16位的CPU。这是我的代码:

代码语言:javascript
复制
static uint8 convertBattery(void){
    uint16 const fullBattery = 3000; /* 3V = 3000mV */
    uint8 charge;
    charge = ((battery*100)/fullBattery);
    return charge;
}

正如您所看到的,在整数除法中,我先将分子乘以100,从而将整数除以整数。

对于battery = 2756,我的电荷值计算为04,这是意外的。我花了很长时间在这个相当琐碎的任务上,没有取得任何进展。有人能告诉我问题出在哪里吗?

谢谢。

EN

回答 1

Stack Overflow用户

发布于 2015-06-15 14:14:51

电池*100的中间结果对于uint16来说太大了,所以会溢出。

票数 0
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/30846925

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档