回答情况：
提问时间：
问题标签：
我想要一个介于-7.2E-75和+7.2E+75之间的数字。我应该如何指定数字的精度和小数位数。(小数位数范围为1到38，精度为-84到127)。
浏览 2修改于2013-06-26得票数 1
回答已采纳
有没有可以截断或舍入双精度数的函数？在代码中的某一点上，我希望将类似：1.23456789的数字四舍五入为1.23
浏览 4修改于2015-12-04得票数 133
回答已采纳
我知道，但希望使用number_with_precision来输出db中某些产品的价格。#app/models/feature.rb number_with_precision price
end
浏览 3修改于2014-03-26得票数 0
回答已采纳
在文档中，它将average_precision_score描述为精确召回曲线下的区域。我很难理解这个区域意味着什么？
这个度量和原始的精确评分有什么不同？
浏览 6修改于2016-03-09得票数 6
回答已采纳
我一直在寻找对此的解释，但还没有找到一个--在科学工具包中--学习，当我计算auc() of precision_recall_curve()时，我得到了一个与使用内置average_precision_score,[0, 0, 0],[0, 1, 1]])ymic = y.ravel()
prec["micro"], rec["micro"], _ = precision_recall_curveaverage_precision</e
浏览 0修改于2018-08-19得票数 4
在以下链接中给出的ios::base:precision和setprecision之间有什么区别？
浏览 1提问于2015-03-18得票数 3
我正在尝试制作一个程序，它接受一些用户输入，运行一些计算并输出答案。我的问题是，这个答案有时会有很多小数位长，这会导致一些美学和布局问题。我只需要显示4位小数点后的数据。有没有办法限制这些数字在输出时的精度？(数字存储在浮点数中，我正在为Android编程。)
浏览 0修改于2012-05-31得票数 6
回答已采纳
假设我有以下数据要在FOR XML EXPLICIT查询中使用：ProductId: 7575PerItemPrice: 12.95现在，当我编写我的查询时，我得到了以下输出： <ProductId>7575</ProductId> <PerItemPrice>1.29500
浏览 1提问于2011-08-01得票数 1
回答已采纳
我知道存储单值(或双精度值)不能非常精确。因此，例如存储125.12可以得到125.1200074788。现在在delphi中，它们是一些有用的函数，比如samevalue或comparevalue，它们以epsilon为参数，说明125.1200074788或例如125.1200087952是相等的。
浏览 13提问于2017-01-21得票数 7
回答已采纳
我正在尝试更改具有decimal数据类型的列的Precision属性。它是用38的精度创建的，但我希望它是10。我如何才能实现它？
浏览 26修改于2020-03-03得票数 0
回答已采纳
有人知道如何在play JSON返回结果时指定BigDecimal类型的精度吗？
浏览 2修改于2016-12-12得票数 0
当我添加number_with_precision时，它显示的是零，而不是实际数字。下面是我的html代码。<div class="ratings"> <%=number_with_precision(boli.current, precision
浏览 4修改于2016-02-12得票数 0
回答已采纳
值得一提的是，在不同的数据集上，输出是正常的(6位)；PrevPrev = 0.2181108
0.1796457
浏览 0修改于2018-04-22得票数 2
回答已采纳
我尝试在Java中对小于1的指数执行幂计算，例如：(2^0.333)但是当我在Java中计算它时，我得到的结果比在普通计算器上进行相同计算的精度要低。double f = Math.pow(2.0,0.333);//1.2596299799473993//output在java中如何在不损失精度的情况下获得相同的结果？
浏览 2提问于2012-10-25得票数 0
回答已采纳
mysql> SELECT CAST(1 / 3 AS DECIMAL(21,20));| CAST(1 / 3 AS DECIMAL(21,20)) || 0.33333333300000000000 |1 row in set (0.00 sec)
是否可以将输出'0.33333333300000000000‘更改为'0.3333333333333
浏览 2修改于2017-12-06得票数 2
回答已采纳
我正在用C++为我的数学PhD编写一个科学应用程序，它基于一些重线性代数，主要是BLAS level 3例程。所使用的矩阵的大小差别很大，理想情况下，我希望能够处理10000阶和更高阶的非常大的矩阵。到目前为止，我已经使用了Intel MKL，多线程，可以很好地扩展到8个内核。我的算法产生了正确的结果，但是在双精度算术中，由于高幂导致的累积误差，结果非常不稳定。此外，由于我可以访问大型超级计算机集群，并且我的算法可以轻松地跨多个节点进行扩展，因此我希望使用MPI来跨数百个节点扩展应用程序。支持多精度运算，支持多线程，支持MPI
到目前为止，我的发现是:
浏览 1提问于2013-01-21得票数 0
我有一个代码，上面显示了价格： h.number_with_precision(object.value, precision: 2,strip_insignificant_zeros
浏览 1修改于2018-02-12得票数 0
回答已采纳
在我的代码中，我用private float x;
但是当我存储像322,249878这样的值时，数据库返回322.25。
浏览 1提问于2012-06-19得票数 3
回答已采纳
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号