objective-c - 使用 NSNumberFormatter numberFromString 的精度错误
<p><p>为什么下面的代码会产生“numberFromString = 9.390000000000001”而不是“numberFromString = 9.39”?</p>
<pre><code>NSNumberFormatter *numFormatter = [ init];
;
;
;
NSNumber *nTCA = ;
NSLog(@"numberFromString = %@", nTCA);
</code></pre>
<p>我在 OS X 10.6 和 iOS 4.3.3 上得到了上述结果。</p>
<p>纠正此错误的最佳方法是什么?</p>
<p>谢谢</p></p>
<br><hr><h1><strong>Best Answer-推荐答案</ strong></h1><br>
<p><p>我怀疑您在使用浮点精度时遇到了错误。解决这个问题的方法是使用 <code>NSDecimalNumber</code> 而不是 <code>NSNumber</code>。有一篇关于这个的好帖子<a href="http://www.cimgf.com/2008/04/23/cocoa-tutorial-dont-be-lazy-with-nsdecimalnumber-like-me/" rel="noreferrer noopener nofollow">here</a> .</p>
<p><code>NSDecimalNumber</code> 有 <a href="http://developer.apple.com/library/mac/documentation/Cocoa/Reference/Foundation/Classes/NSDecimalNumber_Class/Reference/Reference.html#//apple_ref/occ/clm/NSDecimalNumber/decimalNumberWithString%3a" rel="noreferrer noopener nofollow"><code>+ decimalNumberWithString:</code></a>方法。这足以满足您的目的吗?</p></p>
<p style="font-size: 20px;">关于objective-c - 使用 NSNumberFormatter numberFromString 的精度错误,我们在Stack Overflow上找到一个类似的问题:
<a href="https://stackoverflow.com/questions/6416890/" rel="noreferrer noopener nofollow" style="color: red;">
https://stackoverflow.com/questions/6416890/
</a>
</p>
页:
[1]