对 NSDecimalNumber 有点困惑？

Posted 2023-03-07

【中文标题】对 NSDecimalNumber 有点困惑？

【英文标题】：A little confused about NSDecimalNumber?

【发布时间】：2018-11-14 11:55:00

【问题描述】：

有一个短代码

    NSString *numString = @"2128.123123";
    NSDecimalNumber *large = [NSDecimalNumber decimalNumberWithString:numString];
    NSDecimalNumberHandler *decimalHandler = [NSDecimalNumberHandler decimalNumberHandlerWithRoundingMode:NSRoundPlain scale:2 raiseOnExactness:NO raiseOnOverflow:NO raiseOnUnderflow:NO raiseOnDivideByZero:YES];
    NSDecimalNumber *fin = [large decimalNumberByRoundingAccordingToBehavior:decimalHandler];
    NSLog(@"%@",fin);

看起来不错，打印“2128.12”。

.....

但你可以试试 numString = @"78.991";

NSLog(@"%@",fin)

打印“78.98999999999999”....

为什么比例尺无效？期待“78.99”

---

【问题讨论】：

Is floating point math broken?的可能重复

为我工作。我认为我们需要一个 MCVE：***.com/help/mcve

@luk2302 你错过了NSDecimalNumber 的要点。 “用于表示和执行以 10 为基数的算术的对象。”

@TurePålsson 您使用的是哪个版本的 macOS？

@Willeke 我在 Mojave 上进行了测试，但是我收到了一些关于存根文件不同步的链接器警告 (???) 所以我的系统可能会以某种方式回退到旧库。 ..

【参考方案1】：

fin 可以，但 NSLog 调用 doubleValue。在早期版本的 macOS 中，NSLog 确实调用了返回“78.99”的description。解决方案： NSLog(@"%@", fin.description).

【讨论】：

你的意思是，fin值为“78.99”（虽然初始值为“78.991”）？ NSLog 出错了？

为什么“2128.123123”工作正常，“78.991”不正确？╮(￣▽￣"")╭

NSLog(@"%@",fin) 与NSLog(@"%0.16g", fin.doubleValue) 的作用相同。这是破碎的浮点数学问题。试试NSLog(@"%0.24g", fin.doubleValue)。