菜鸟教程小白 发表于 2022-12-12 16:38:34

objective-c - 使用 NSNumberFormatter numberFromString 的精度错误


                                            <p><p>为什么下面的代码会产生“numberFromString = 9.390000000000001”而不是“numberFromString = 9.39”?</p>

<pre><code>NSNumberFormatter *numFormatter = [ init];
;
;
;
NSNumber *nTCA = ;

NSLog(@&#34;numberFromString = %@&#34;, nTCA);
</code></pre>

<p>我在 OS X 10.6 和 iOS 4.3.3 上得到了上述结果。</p>

<p>纠正此错误的最佳方法是什么?</p>

<p>谢谢</p></p>
                                    <br><hr><h1><strong>Best Answer-推荐答案</ strong></h1><br>
                                            <p><p>我怀疑您在使用浮点精度时遇到了错误。解决这个问题的方法是使用 <code>NSDecimalNumber</code> 而不是 <code>NSNumber</code>。有一篇关于这个的好帖子<a href="http://www.cimgf.com/2008/04/23/cocoa-tutorial-dont-be-lazy-with-nsdecimalnumber-like-me/" rel="noreferrer noopener nofollow">here</a> .</p>

<p><code>NSDecimalNumber</code> 有 <a href="http://developer.apple.com/library/mac/documentation/Cocoa/Reference/Foundation/Classes/NSDecimalNumber_Class/Reference/Reference.html#//apple_ref/occ/clm/NSDecimalNumber/decimalNumberWithString%3a" rel="noreferrer noopener nofollow"><code>+ decimalNumberWithString:</code></a>方法。这足以满足您的目的吗?</p></p>
                                   
                                                <p style="font-size: 20px;">关于objective-c - 使用 NSNumberFormatter numberFromString 的精度错误,我们在Stack Overflow上找到一个类似的问题:
                                                        <a href="https://stackoverflow.com/questions/6416890/" rel="noreferrer noopener nofollow" style="color: red;">
                                                                https://stackoverflow.com/questions/6416890/
                                                        </a>
                                                </p>
                                       
页: [1]
查看完整版本: objective-c - 使用 NSNumberFormatter numberFromString 的精度错误