首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >从Sqlite3保存和检索数值

从Sqlite3保存和检索数值
EN

Stack Overflow用户
提问于 2009-12-26 15:55:28
回答 2查看 417关注 0票数 0

如何正确地将数值保存到SQLite3中。我使用Real类型来存储数值。例如:当我存储233333.00就可以了。但是当我存储23333333.00的时候,它变成了23333300.00。为什么会另存为2.3333333E7,检索为2.33333e+07。有没有办法克服这个问题?

EN

回答 2

Stack Overflow用户

发布于 2009-12-26 16:19:27

SQLite使用的real类型被存储为8字节的IEEE浮点数,并且不能准确地存储所有值。如果需要精确的值,请使用整型字符串。

票数 2
EN

Stack Overflow用户

发布于 2009-12-26 18:28:32

你正在失去精度,因为你的程序变量只有一个精度,而你需要双精度。

对于适合尾数的整数值,浮点数实际上是完全准确的。

你得到24位的单打和53位的双打。

这根本不是sqlite问题。

票数 0
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/1962856

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档