在使用matlab的符号工具箱时,我偶然发现了以下奇怪的东西
/ >> syms e />> y=11111111111111111^e Y= 11111111111111112^e
在处理大量的数据时,似乎有一个限制。如果不改变成一个完全不同的系统,比如鼠尾草,就能解决这个问题吗?
发布于 2012-09-03 11:26:41
我认为问题在于,在将数字转换为符号表达式之前,Matlab将其解析为双倍。由于一个双有52位尾数,你有大约16个有效数字,但你的数字更长。
作为另一种选择,您可以尝试直接从字符串创建数字:
y=sym('11111111111111111')^e不幸的是,我现在没有Matlab可用,所以这个答案是未经测试的。
发布于 2016-10-27 13:19:37
--这不是一个bug,而是一个特性。它被称为“舍入错误”
matlab使用双重格式存储普通变量,就像C编程语言中的double,以及许多其他语言(如C++ )。
实际上,"bug“与"^x”无关,我们可以看到:
>> clear
>> syms y
>> format bank
>> y=11111111111111111
y =
11111111111111112.00即使是简单的赋值也会触发"bug“。
使用调试模式,我们可以看到双变量是如何真正存储在VS中的:

正如您在屏幕截图中所看到的,a和b都存储为“2ea37c58cccccc”存储在内存中,这意味着计算机不能区分其中一个和另一个。
这就是你发现“窃听器”的原因。
为了避免这种情况,您可以使用符号常量来代替:
>> y=sym('11111111111111111')
y =
11111111111111111这样,计算机将以一种不同的格式将"y“存储在内存中,这将避免舍入错误并花费更多的内存。
https://stackoverflow.com/questions/12246333
复制相似问题