首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >无法使用visual basic将具有12位小数的双精度/小数值转换为字符串。

问无法使用visual basic将具有12位小数的双精度/小数值转换为字符串。
EN

Stack Overflow用户
提问于 2013-01-23 14:15:35
回答 2查看 1.4K关注 0票数 1

我试图将一个有12个小数位的双精度值转换成一个字符串,但它只返回一个有10个小数位的字符串。

我尝试过ToString、Format、FormatNumber、CStr和System.Convert.ToString。它们都返回10位小数。

(也是与decimal数据类型相同的行为)

示例:

代码语言:javascript
复制
d = Date.Parse(sDate).ToOADate (value is 41261.001388888886)

d.ToString = 41261.0013888889

CStr(d) = 41261.0013888889

FormatNumber(d, 12) = 41,261.001388888900

对于Format和FormatNumber,当指定12位时,该值四舍五入为10位。

这是在我为DataView对象构造过滤器时突然出现的。

有没有办法解决这个问题,或者这是.Net中的一个限制

EN

回答 2

Stack Overflow用户

回答已采纳

发布于 2013-01-23 23:12:55

Double.ToString仅使用15位精度。

您应该使用d.ToString("R")

来自MSDN

往返("R")格式说明符保证转换为字符串的数值将被解析回相同的数值。

..。

使用此说明符设置单值或双精度值的格式时,首先使用常规格式进行测试,其中双精度为15位精度,单精度为7位精度。如果该值被成功解析回相同的数值,则使用通用格式说明符对其进行格式化。如果该值未成功解析回相同的数值,则对双精度使用17位精度,对单精度使用9位精度格式化。

票数 0
EN

Stack Overflow用户

发布于 2013-01-23 14:55:53

在查看MSDN page for the Decimal Type时,它指出:

您可能需要使用D型字符将较大的值赋给十进制变量或常量。这是因为编译器将文字解释为只要文字后面没有文字类型字符,如下面的示例所示。

所以基于你的例子

代码语言:javascript
复制
Module Module1

    Sub Main()
        Dim d As Decimal
        d = 41261.001388888886D

        Console.WriteLine(d)
        Console.WriteLine(CStr(d))
        Console.WriteLine(FormatNumber(d, 12))
        Console.WriteLine(d.ToString("#0.000000000000"))
        Console.ReadLine()
    End Sub

End Module

显示:

代码语言:javascript
复制
41261.001388888886
41261.001388888886
4,1261.001388888886
41261.001388888886

试一试,它似乎工作正常

代码语言:javascript
复制
Dim d As Decimal = CDec(String.Format("{0:G20}", Date.Parse(CStr(Now)).ToOADate))
票数 1
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/14473561

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档