我试图将一个有12个小数位的双精度值转换成一个字符串,但它只返回一个有10个小数位的字符串。
我尝试过ToString、Format、FormatNumber、CStr和System.Convert.ToString。它们都返回10位小数。
(也是与decimal数据类型相同的行为)
示例:
d = Date.Parse(sDate).ToOADate (value is 41261.001388888886)
d.ToString = 41261.0013888889
CStr(d) = 41261.0013888889
FormatNumber(d, 12) = 41,261.001388888900对于Format和FormatNumber,当指定12位时,该值四舍五入为10位。
这是在我为DataView对象构造过滤器时突然出现的。
有没有办法解决这个问题,或者这是.Net中的一个限制
发布于 2013-01-23 23:12:55
Double.ToString仅使用15位精度。
您应该使用d.ToString("R")
来自MSDN
往返("R")格式说明符保证转换为字符串的数值将被解析回相同的数值。
..。
使用此说明符设置单值或双精度值的格式时,首先使用常规格式进行测试,其中双精度为15位精度,单精度为7位精度。如果该值被成功解析回相同的数值,则使用通用格式说明符对其进行格式化。如果该值未成功解析回相同的数值,则对双精度使用17位精度,对单精度使用9位精度格式化。
发布于 2013-01-23 14:55:53
在查看MSDN page for the Decimal Type时,它指出:
您可能需要使用D型字符将较大的值赋给十进制变量或常量。这是因为编译器将文字解释为只要文字后面没有文字类型字符,如下面的示例所示。
所以基于你的例子
Module Module1
Sub Main()
Dim d As Decimal
d = 41261.001388888886D
Console.WriteLine(d)
Console.WriteLine(CStr(d))
Console.WriteLine(FormatNumber(d, 12))
Console.WriteLine(d.ToString("#0.000000000000"))
Console.ReadLine()
End Sub
End Module显示:
41261.001388888886
41261.001388888886
4,1261.001388888886
41261.001388888886试一试,它似乎工作正常
Dim d As Decimal = CDec(String.Format("{0:G20}", Date.Parse(CStr(Now)).ToOADate))https://stackoverflow.com/questions/14473561
复制相似问题