腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
搜索
搜索
关闭
发布
搜索
关闭
文章
问答
(9999+)
视频
开发者手册
清单
用户
专栏
沙龙
全部问答
原创问答
Stack Exchange问答
更多筛选
回答情况:
全部
有回答
回答已采纳
提问时间:
不限
一周内
一月内
三月内
一年内
问题标签:
未找到与 相关的标签
筛选
重置
4
回答
C#
高精度
计算
考虑下面的代码:我得到的结果是2178548422,而不是2178548421.999999854等等。怎样才能得到更精确的结果?
浏览 1
提问于2011-11-14
得票数 5
回答已采纳
1
回答
numpy中的
高精度
计算
如何在numpy中进行
高精度
计算
?我所说的
高精度
是指以十进制表示的100精度。
浏览 54
提问于2017-08-10
得票数 2
1
回答
高精度
数值
计算
不幸的是,在许多情况下,我不知道封闭形式的正确结果,所以我需要找到一种方法来使用一些非常
高精度
的
计算
来
计算
基准结果。对这些
高精度
计算
进行编码的最佳方法是什么?我正在寻找至少四个精度,但最好是更高。到目前为止,我唯一的想法是使用。
浏览 3
修改于2017-05-23
得票数 1
1
回答
Rmpfr在R中的
高精度
计算
我必须
计算
B(x+a, n-x+a),其中B( , )是,0 < a < .5,n = 10^8和x = 10^7。 R只是喷出0,这破坏了我的
计算
。
浏览 3
提问于2021-09-06
得票数 3
回答已采纳
4
回答
高精度
计算
平均值的最佳策略
我比较了两种
计算
随机数平均值的算法。 第二种算法
计算
每次迭代的平均值,并在接收到新数据时重用结果。
浏览 11
提问于2016-05-25
得票数 4
回答已采纳
1
回答
在
高精度
计算
导数时被零误差除法
我正在使用斜率法
计算
函数的导数。我需要放大图表来查看实际发生了什么,但数据点太低,无法提供平滑的曲线。
计算
是使用数值方法完成的,我只使用步长0.0001。在此之后,程序不会提供正确的值。这里可以做些什么?
浏览 10
修改于2020-04-19
得票数 0
1
回答
改进Go中
高精度
计算
的执行时间
(走1.19.2)拉长位置将显示为9小数位数的度,例如: Lat: 48.944665243°,Lon:-13.117730989
浏览 7
修改于2022-10-27
得票数 -1
1
回答
这段代码如何
高精度
地
计算
pi?
.4ld",e+d/10000); c -= 14; return 0;我的问题是:这段代码是如何用高十进制精度
计算
浏览 4
修改于2016-10-01
得票数 5
回答已采纳
1
回答
在脚本中,以
高精度
计算
浮点,并以较低的精度存储在shell变量值中。
在我的脚本中,我从另一个变量mflow
计算
变量folder。
计算
必须以
高精度
进行,但最终结果必须截断为一个有效数字。目前我正在做这个: #!是否有一种方法可以以
高精度
执行中间
计算
,并以所选的(较低)精度将结果分配给mflow?当然,我不想牺牲脚本的可读性。
浏览 4
修改于2016-05-19
得票数 1
回答已采纳
3
回答
如何在D中进行
高精度
的
计算
?
对于一些大学作业,我必须近似一些数字-比如用级数表示的欧拉数。因此,我必须添加非常小的数字,但我在精度方面存在问题。如果数字非常小,则不会影响结果。ulong k; //factorial 在每一步之后,k变得更小,但在第10轮之后,结果不再变化,停留在2.71828
浏览 6
修改于2011-02-09
得票数 4
回答已采纳
1
回答
用asm.js进行
高精度
的
计算
实用吗?
请看这里的示例:有没有一种使用asm.js进行
高精度
计算
的实用方法?有多高?
浏览 7
修改于2014-02-28
得票数 4
2
回答
Python/Matlab -以四倍精度或更
高精度
计算
矩阵的排名
到目前为止,我已经在python中安装了bigfloat包,但在尝试获得更
高精度
的排名时并不成功。我也对我的矩阵进行了缩放,我尝试了python的jacobi预处理器和其他一些缩放方法,但这还不够。
浏览 5
修改于2019-11-12
得票数 2
2
回答
在Lua中
计算
更
高精度
的值
如果是这样,在lua中可以
计算
的最高限制是多少?
浏览 185
提问于2020-04-23
得票数 2
回答已采纳
5
回答
如何在Java中使用可变类执行
高精度
的
计算
?
大多数固件都会以一种神秘的方式输出数据,因此接收数据的厂商应该通过对其进行一些
计算
来扩展数据,以便显示出真正的值。 我的目标是精确到10位数。不需要更多的东西。那么,对于这种精确性,最好的库或操作路线是什么呢?
浏览 8
修改于2015-10-24
得票数 6
回答已采纳
1
回答
有
高精度
的对数
计算
器吗?
在我的课堂上,在最后一个项目中,我们正在改进一个与前缀匹配的算法,该算法的幂为2。无论如何,我们依靠对数来识别匹配的前缀。对数精度实际上很重要,我们正在寻找更好的日志函数。标准日志函数和calc-函数具有相同的精度.如果我想要更高的精度,还有什么选择吗?
浏览 1
修改于2017-06-30
得票数 2
回答已采纳
1
回答
如何在Python中实现
高精度
数学
计算
我甚至不确定这是否是我试图实现的最好的措辞,但我正在尝试用Python
计算
幂级数,正如我所想象的那样,因为我是Python的新手,而且由于使用浮点数时,幂级数
计算
很棘手,我的
计算
正在崩溃。在Mathematica中,我可以
计算
这个幂级数(我已经
计算
到了素数151,非常耗时),但即使在Mathematica中,如果我在公式中使用浮点数(而不是符号,然后转换为十进制),结果也是错误的。
浏览 51
修改于2020-09-19
得票数 0
2
回答
在JavaScript中实现
高精度
算术
计算
的最佳方法是什么?
我正在做一个算法,检查一个数字是否是大学的质数,但我遇到了一个内涵和
计算
问题,我需要考虑大的数字。其中一个问题在BigInt()的支持下得到了解决,但是在小数位数的算术
计算
中,它最终失去了精度,从而返回了false true。例如,乘以两个以1,3,7,9结尾的数字,总会得到一个以1,3,7,9结尾的数字,但从3**34开始,
计算
就开始失去精度。
浏览 16
修改于2022-01-27
得票数 1
回答已采纳
10
回答
为了节省内存和保持
高精度
计算
,将窄类型转换为宽类型是一个糟糕的想法吗?
我正在处理金融数据,所以有很多数据,需要相对
高精度
(64位浮点或更大的精度)。由于64位的宽度足以保持代表性的精度,对于所有
计算
(mult,div,add等),将数据转换为更宽的类型,然后返回到64位,以便驻留在内存中(这是它花费时间最多的地方),这是荒谬的吗?
浏览 0
提问于2009-05-28
得票数 5
回答已采纳
0
回答
高精度
计算
与高效能优化方案助力零知识证明技术,如何获得合作?
高性能计算
、
部署
、
硬件
、
优化
、
零知识证明
将
计算
时间从天级缩短到毫秒级,满足实时性需求。通过硬件加速技术,降低零知识证明的硬件部署成本,推动技术普及。 该如何联系?
浏览 80
提问于2025-04-05
2
回答
如何在python中
计算
昂贵的
高精度
和?
我想
计算
一下下面的总和。
浏览 3
修改于2014-02-03
得票数 8
回答已采纳
第 2 页
第 3 页
第 4 页
第 5 页
第 6 页
第 7 页
第 8 页
第 9 页
第 10 页
第 11 页
点击加载更多
领券