腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
搜索
搜索
关闭
发布
文章
问答
(6716)
视频
沙龙
5
回答
Java中
的
浮点型和双
精度
数据类型
java
、
floating-point
、
double
、
ieee-754
float
数据类型
是
单精度
32位
IEEE
754
浮点,double
数据类型
是双
精度
64位
IEEE
754
浮点。 什么意思?什么时候我应该使用
float
而不是double,反之亦然?
浏览 124
提问于2014-12-22
得票数 241
回答已采纳
1
回答
累积速度
数据类型
处理
iot
、
cumulocity
如何在Cumulocity IoT云中处理不同
的
数据类型
?例如:符合
IEEE
754
的
双
精度
浮点值
Float
-符合
IEEE
754
的
单精度
浮点值Decimal -具有任意
精度
的
十进制长带符号
的
64位整数值Int -带符号
的
32位整数值Short -带符号
的
16位整数值Byte -有符号
的
8位整数
浏览 16
提问于2020-05-19
得票数 0
1
回答
Java格式双倍性能
java
、
performance
我可以很容易地通过十进制格式化来实现同样
的
目的。32.123456;System.out.println("double : " + df2.format(input));' 但我
的
数据量相当大,数百万是他们实现同样
的
高性能
的
更好方法。任何有用
的
链接也会起作用。
浏览 0
提问于2015-10-20
得票数 0
3
回答
GLSL如何确保最大可能
的
浮点值而不溢出
opengl
、
floating-point
、
overflow
、
glsl
有没有办法确保一个浮点数表示最大可能
的
值而不溢出?因为有人问我用这个做什么: 我基本上是把一个点扩展到“无穷大”。它用于2D阴影投射,其中我完全重塑了GPU上
的
三角形条带阴影。在两个“阴影边界”点是同一边缘
的
情况下,光线几乎与该边缘共线,我需要确保三角形仍然覆盖整个屏幕。这很难描述。
浏览 0
提问于2013-04-18
得票数 8
回答已采纳
1
回答
Java中
的
单精度
/双
精度
是什么?
java
、
floating-point
什么是“
精度
”?使用
float
和double时,single和double有什么不同?这些行是什么意思-‘
单精度
32位
IEEE
754
浮点’|‘双
精度
64位
IEEE
754
浮点’
浏览 0
提问于2016-03-23
得票数 1
1
回答
数据类型
float
的
精度
(
IEEE
754
单精度
)
floating-point
、
precision
、
floating-accuracy
、
ieee-754
我在
IEEE
754
的
维基百科页面上找到了一个图表,它显示了浮点
精度
和实际浮点值(https://en.wikipedia.org/wiki/
IEEE
_
754
#Formats)之间
的
关系: ? 这样解释这个图表是正确
的
吗?通常来说,较小
的
值比较大
的
值“更准确”? 在我
的
具体案例中,我有一个应用程序对流入浮点累加器/累加器
的
质量流
浏览 32
提问于2020-11-06
得票数 1
回答已采纳
1
回答
单精度
浮点分割
的
最佳
精度
c
、
math
、
assembly
、
floating-point
、
verilog
如果只使用
单精度
加/子和乘法硬件(不使用FMA),是否可以执行除法并获得
IEEE
-
754
单精度
正确值?具体而言,如果在
单精度
硬件上执行牛顿-拉夫森法进行浮点除法,是否有可能达到
IEEE
-
754
正确
的
结果?
浏览 1
提问于2014-07-18
得票数 3
回答已采纳
2
回答
是否所有的
单精度
数字都可以用双
精度
格式表示?
floating-point
、
ieee-754
给定一个以
IEEE
754
单精度
格式(在某些语言/平台中通常称为
float
)表示
的
任意数字,我可以确定该数字也可以精确地表示为双
精度
格式吗?如果是,当考虑半
精度
到
单精度
和双
精度
到四倍
精度
时,该属性是否有效?
浏览 2
提问于2011-10-05
得票数 7
回答已采纳
3
回答
结构转换为
IEEE
754
c
、
ieee-754
我
的
问题是关于
IEEE
754
单精度
数字。假设我有一个结构:{ int exponent;}
IEEE
754
,*pIEEE
754
; 我可以将其转换为
单精度
(1-8-23浮点数)数字吗?我使用
的
是C。
浏览 0
提问于2012-02-16
得票数 1
4
回答
将int转换为浮动在C中时
的
奇怪行为
c
、
casting
、
floating-point
、
visual-studio-6
、
gcc3
我对以下C程序
的
输出有疑问。我尝试使用VisualWeb6.0和C++ MinGW32编译它(gcc 3.4.2)。#include <stdio.h> int x = 2147483647; printf("%f\n", (
float
)x);}2147483648.000000我
浏览 4
提问于2014-11-24
得票数 22
回答已采纳
5
回答
如何仅使用整数运算生成
IEEE
754
单精度
浮点数?
c
、
ieee-754
假设一个低端微处理器没有浮点运算,我需要生成一个IEE
754
单精度
浮点格式
的
数字来推送到一个文件中。我需要编写一个函数,它接受三个整数,即符号、整数和分数,并返回一个字节数组,其中4个字节是
IEEE
754
的
单精度
表示。类似于:char*
float
= conv
浏览 1
提问于2015-06-11
得票数 0
1
回答
如何在C++中将十进制转换为
IEEE
754
半
精度
格式?
c++
、
floating-point
、
floating-point-conversion
我目前正在尝试将十进制值转换为
IEEE
754
半
精度
浮点格式,但在转换时遇到了一些问题。目前,此代码仅适用于转换为
单精度
格式。否则,有没有别的办法来解决我
的
问题呢?#include <limits.h>#include <math.h> /
浏览 4
提问于2019-08-06
得票数 0
1
回答
浮式表示法
精度
极限阶数
的
计算
floating-point
、
precision
、
floating-accuracy
、
representation
假设我
的
机器中有一个
单精度
浮点格式变量,我想在它上指定给定操作
的
结果。来自 这提供了6到9个重要
的
十进制数字
的
精度
。我不清楚最后一项声明(e-6
的
精确性)是如何推导出来
的
。通常,假设
数据类型
为上面的
float
32或
floa
浏览 13
提问于2021-12-10
得票数 0
1
回答
如何在python中访问
IEEE
754
中定义
的
舍入模式?
python
、
floating-point
、
decimal
、
ieee-754
、
floating-point-precision
我需要在Python中精确地计算
单精度
浮点数。 我尝试过
的
选项是decimal.Decimal和numpy.
float
32。但是,Decimal不是基于
IEEE
754
,并且
float
32不允许使用舍入模式。令人惊讶
的
是,舍入模式是
IEEE
754
的
标准特性,但在Python中没有内置
的
实现。
浏览 2
提问于2013-02-27
得票数 3
回答已采纳
3
回答
Java-为什么方法参数将浮点值视为双值?
java
、
casting
我定义了一个方法,其类型为
float
,如下所示:}
float
value = methodReturnTest.getValue(10.1201);谢谢。
浏览 6
提问于2014-01-31
得票数 5
2
回答
32位、64位和80位浮动
IEEE
-
754
的
可表示值范围?
c++
、
c++11
、
floating-point
、
x86-64
、
ieee-754
在C++标准中,它提到浮动字面值: long double是一种80位扩展
精度
IEEE
-
754
。在这种情况下,这三种类型中
的
每一种
的
浏览 7
提问于2013-03-02
得票数 1
回答已采纳
1
回答
float
4和half4在片段着色功能上
的
主要区别是什么?
objective-c
、
metal
、
metalkit
我试图设置渲染管道和MTKView颜色附件像素格式
的
MTLPixelFormatRGBA16
Float
。我应该设定什么来实现金属
的
高动态范围?
浏览 2
提问于2018-07-13
得票数 8
1
回答
JPEG-XL:无损模式支持32位浮动吗?
floating-point
、
jpeg
、
jpeg-xl
我试图理解以下句子(引用): 16位
IEEE
754
半
精度
浮点值
浏览 8
提问于2022-03-25
得票数 1
回答已采纳
1
回答
我
的
Postgres实例支持
IEEE
754
双
精度
浮动吗?
postgresql
、
double
、
ieee-754
Postgres double precision类型实现
IEEE
754
:“
数据类型
实际和双
精度
是不精确
的
、可变
精度
的
数值类型。在所有当前支持
的
平台上,这些类型都是
IEEE
754
的
二进制浮点算法(分别为
单精度
和双
精度
)
的
实现,只要底层处理器、操作系统和编译器支持它。“ 那么,我
的
问题是如何检查“底层处理器、操作系统和编译器是
浏览 5
提问于2022-05-19
得票数 4
3
回答
将PyFloatObject转换为浮点型
python
、
c
、
python-c-api
、
python-c-extension
我有一个要转换为C
float
的
PyFloatObject。但是,PyObjectFloat只提供到double
的
转换。我是否可以安全地将双
精度
数转换为浮点数,或者是否有一个函数可以将PyObject转换为
float
,即PyObject_AsFloat。
浏览 1
提问于2015-01-15
得票数 0
点击加载更多
相关
资讯
Java基础数据类型
原来编程语言是这么算的……
Modbus协议中的数据类型概述
JAVA编程基础二:变量和数据类型
SQL Server 数据类型的详细介绍及应用实例3
热门
标签
更多标签
云服务器
ICP备案
即时通信 IM
实时音视频
对象存储
活动推荐
运营活动
广告
关闭
领券