首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >Kotlin中二次和整数的错误比较

问Kotlin中二次和整数的错误比较
EN

Stack Overflow用户
提问于 2022-04-22 17:08:58
回答 2查看 445关注 0票数 1

我正在做计算器项目,但是当我尝试使用两种类似的方法来比较双整数和整数时,我得到了不同的结果。所以我的问题是,为什么这些比较作品的方法是不同的?

代码语言:javascript
复制
//some code that parse the string
//...
//code of calculating:

fun calculateIn(queueNumbers: Queue<Double>, queueActions: Queue<Char>) {
var action: Char
var result = queueNumbers.poll()
var operand: Double

while (!queueNumbers.isEmpty()) {
    operand = queueNumbers.poll()
    action = queueActions.poll()
    when (action) {
        '-' -> result -= operand
        '+' -> result += operand
        '*' -> result *= operand
        '/' -> result /= operand
        '%' -> result = result % operand * -1.0
    }
  }
  var pointNum = 8.3

  println("pointNum = " + pointNum)
  println(if(pointNum.compareTo(pointNum.toInt()) == 0) pointNum.toInt() else pointNum)

  println("result = " + result)
  println(if(result.compareTo(result.toInt()) == 0) result.toInt() else result)
}

守则的结果:

代码语言:javascript
复制
"10.3 + -2" //input String

[10.3, -2.0] //queueNumbers

[+]//queueActions

pointNum = 8.3

8.3

result = 8.3

8

我认为这很奇怪,因为如果我运行类似的代码,我将得到正确的结果:

代码语言:javascript
复制
var pointNum = 8.3

println(if(pointNum.compareTo(pointNum.toInt()) == 0) pointNum.toInt() else pointNum)

因此,这段代码的结果是:

代码语言:javascript
复制
8.3

GitHub:https://github.com/Trilgon/LearningKotlin上的完整代码

EN

回答 2

Stack Overflow用户

回答已采纳

发布于 2022-04-22 19:49:27

对我来说,这是一个奇怪甚至有趣的问题,但我想我找到了问题所在。

在Kotlin中,Double类是在Primitives.kt中定义的,至少在内建文件中没有定义在实际的源代码中。在这里,Double类实现了一个名为Comparable<Double>的接口,它是另一个内建 Kotlin文件。您可以看到该接口的一部分:

代码语言:javascript
复制
public operator fun compareTo(other: T): Int

那么,让我们回到您的代码。我暂时停职的罪魁祸首是这个问题的第一句话。

代码语言:javascript
复制
import java.util.*

在java.util包中还有另一个Comparable接口,因为Queue是一个Java类,poll方法可能返回一个可空值,而且由于您已经导入了java.util包中的所有内容,所以从Comparable调用compareTo,而不是从Kotlin包中的compareTo。

我不知道为什么Java的compareTo返回不同的结果。

我尝试用以下内容替换java.util.*:

代码语言:javascript
复制
import java.util.Queue
import java.util.LinkedList

但什么都没变。

但是,我找到了另一个解决方案,只要替换 var result = queueNumbers.poll()和var result = queueNumbers.poll() ?: 0.0或var result: Double = queueNumbers.poll(),那么它就会被修复!

代码语言:javascript
复制
//original
var result = queueNumbers.poll()
//method 1
var result : Double = queueNumbers.poll()
//method 2
var result = queueNumbers.poll() ?: 0.0

​

​

票数 1
EN

Stack Overflow用户

发布于 2022-04-22 21:55:36

我相信这是编译器中的一个bug。讨论是这里,我复制我的发现:

最小可重现性示例:

代码语言:javascript
复制
fun test1(): Int {
    val d: Double?
    d = 8.3
    return d.compareTo(8) // 0
}

fun test2(): Int {
    val d: Double
    d = 8.3
    return d.compareTo(8) // 1
}

这两个代码示例之间的技术区别是,值在test1()中装箱,在test2()中取消装箱。如果我们查看为test2()生成的字节码,所有内容都如预期的那样:

代码语言:javascript
复制
 7: bipush        8
 9: i2d
10: invokestatic  #63                 // Method java/lang/Double.compare:(DD)I

它将整数值8转换为双倍,然后将这两个值作为双倍进行比较。

但如果我们观察一下test1(),就会发现一些奇怪的事情发生了:

代码语言:javascript
复制
10: invokevirtual #52                 // Method java/lang/Double.doubleValue:()D
13: d2i
14: bipush        8
16: invokestatic  #58                 // Method kotlin/jvm/internal/Intrinsics.compare:(II)I

相反,它将双值8.3转换为整数,然后将值作为整数进行比较。这就是为什么它说价值观是一样的。

有趣的是,甚至IntelliJ中的"Kotlin字节码“工具都显示了test1()的正确代码。

代码语言:javascript
复制
INVOKEVIRTUAL java/lang/Double.doubleValue ()D
BIPUSH 8
I2D
INVOKESTATIC java/lang/Double.compare (DD)I

但实际生成的字节码是不同的,给出了不同的结果。

我报告了问题:https://youtrack.jetbrains.com/issue/KT-52163

票数 4
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/71972387

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档