• 设为首页
  • 点击收藏
  • 手机版
    手机扫一扫访问
    迪恩网络手机版
  • 关注官方公众号
    微信扫一扫关注
    公众号

objective-c - 将 NSString 转换为 NSNumber 会导致数字过多和奇怪的舍入

[复制链接]
菜鸟教程小白 发表于 2022-12-12 21:50:01 | 显示全部楼层 |阅读模式 打印 上一主题 下一主题

在将包含两位标准十进制数字(例如 8.20)的 NSString 转换为 NSNumber 时,我(不时)得到额外的数字和通过 NSLog 记录结果或将其保存在 Core Data 中(作为 float 或 double )时的奇怪舍入行为,例如8.20 -> 8.199999999999999。

这是我用来转换数字的代码:

 NSNumberFormatter *numberFormatter = [[NSNumberFormatter alloc] init];
 [numberFormatter setNumberStyle:NSNumberFormatterDecimalStyle];
 [numberFormatter setMaximumFractionDigits:5];
 NSNumber *num = [numberFormatter numberFromString:str];

我不明白为什么转换为 NSNumber 会弄乱数字。我的代码有什么问题?



Best Answer-推荐答案


这就是 float 和 double 在 C/Objective-C(以及许多其他语言)中的行为方式。例如,当您输入 python 8.0 时,结果将是 8.000000000001。我推荐使用 NSScanner将它们转换为原始数字类型( double 、 float )。

关于objective-c - 将 NSString 转换为 NSNumber 会导致数字过多和奇怪的舍入,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/11316318/

回复

使用道具 举报

懒得打字嘛,点击右侧快捷回复 【右侧内容,后台自定义】
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关注0

粉丝2

帖子830918

发布主题
阅读排行 更多
广告位

扫描微信二维码

查看手机版网站

随时了解更新最新资讯

139-2527-9053

在线客服(服务时间 9:00~18:00)

在线QQ客服
地址:深圳市南山区西丽大学城创智工业园
电邮:jeky_zhao#qq.com
移动电话:139-2527-9053

Powered by 互联科技 X3.4© 2001-2213 极客世界.|Sitemap