我有一个代码,它将单元格的默认值设置为上面单元格的值乘以100:
const int DUCKBILL_MULTIPLIER = 100;
. . .
cellValue = dataGridViewPlatypi.Rows[args.RowIndex - 1].Cells[0].Value;
if (Convert.ToInt32(cellValue) > 0)
{
int nextDefaultVal = Convert.ToInt32(cellValue) * DUCKBILL_MULTIPLIER;
cellValue = nextDefaultVal;
}
prevVal = cellValue == null ? string.Empty : cellValue.ToString();
. . .
dataGridViewPlatypi.Rows[args.RowIndex].Cells[args.ColumnIndex].Value = prevVal;但是,一旦上面的值达到1000000000 (10亿),下一个值就是1215752192 (1,215,752,192或大约12亿),而不是1,000亿。
我知道最大int值是2,147,483,647 (大约21亿);那么为什么下一个值是1,215,752,192而不是2,147,483,647?
顺便说一句,这些数字比应用程序需要的更大,但我在测试“极端”情况下发现了这一点。
发布于 2012-10-03 00:46:51
因为发生了多个溢出。每次达到2,147,483,647,计数就会重新开始。现在,您必须记住它会溢出到-2,147,483,648。因此,我们必须考虑整个Int32范围,即4,294,967,296 (可以从(Int64)Int32.MaxValue + 1 - Int32.MinValue或简单地从2^32计算得出)。
算术:
(1 billion * 100) % (4,294,967,296) = 1215752192C#代码中的概念证明:
var range = (Int64)Int32.MaxValue + 1 - Int32.MinValue;
Int64 val = 100000000000 % range;
Console.WriteLine(range);
Console.WriteLine(val);发布于 2012-10-03 00:47:48
https://stackoverflow.com/questions/12694603
复制相似问题