服务器之家:专注于服务器技术及软件下载分享
分类导航

PHP教程|ASP.NET教程|Java教程|ASP教程|编程技术|正则表达式|C/C++|IOS|C#|Swift|Android|VB|R语言|JavaScript|易语言|vb.net|

服务器之家 - 编程语言 - IOS - 浅谈iOS 关于小数精确计算(NSDecimalNumber)

浅谈iOS 关于小数精确计算(NSDecimalNumber)

2021-03-26 16:01颜sir IOS

本篇文章主要介绍了浅谈iOS 关于小数精确计算(NSDecimalNumber),具有一定的参考价值,有兴趣的可以了解一下

做了好一段时间的金融产品,对数字是要非常敏感,差个零点零几都不行,精确度是要非常重视的,将后台传给我的floatValue转成NSString,一直没发现问题,最近项目有关个人账户的资产显示,发现总是和web和android有点误差,百思不得其解,在Stack Overflow上面问了一下,发现了NSDecimalNumber这个API,这个类为OC程序提供定点算法功能,它被设计不会损失精度并且可预先设置凑整规则的10进制计算,它比浮点数更好去表达货币,作为代价,它的计算相对复杂,相对耗时。

举个栗子:

?
1
2
3
4
5
6
float a = 0.01;
int b = 99999999;
double c = 0.0;
c = a * b;
NSLog(@"%f",c);
NSLog(@"%.2f",c);

2017-08-02 15:41:25.620 DecimalNumber[3014:155231] 1000000.000000
2017-08-02 15:41:25.620 DecimalNumber[3014:155231] 1000000.00

明显已经已经失真了。

那么我们换个类型,把精度调高,会不会好点呢?

?
1
2
3
c = a*(double)b;
NSLog(@"%f",c);
NSLog(@"%.2f",c);

然并卵,

2017-08-02 16:16:32.293 DecimalNumber[3144:167125] 999999.967648
2017-08-02 16:16:32.294 DecimalNumber[3144:167125] 999999.97

这都是什么鬼,数学白学了。

最后想到了一个方法,我把它转成了字符串,然后再转成double类型,没想到精度就达到要求了

?
1
2
3
4
5
6
7
NSString *aString = [NSString stringWithFormat:@"%.2f", a];
 
NSString *bSting = [NSString stringWithFormat:@"%.2f", (double)b];
 
c = [aString doubleValue] * [bString doubleValue];
 
NSLog(@"%.2f",c);

2017-08-02 16:27:32.590 DecimalNumber[3252:172900] 999999.99

不过看起来有点别扭,转过来转过去的就不说了,一看感觉感觉不专业。下面通过NSDecimalNumber提供计算方式,这是官方建议的货币计算API,精确度比较高,对乘除计算都有单独的接口提供。

?
1
2
3
4
5
6
7
NSDecimalNumber *decimalNumber1 = [NSDecimalNumber decimalNumberWithString:aString];
  
NSDecimalNumber *decimalNumber2 = [NSDecimalNumber decimalNumberWithString:bString];
  
NSDecimalNumber *result = [decimalNumber1 decimalNumberByMultiplyingBy:decimalNumber2];
  
NSLog(@"%@",result);

2017-08-02 16:35:32.779 DecimalNumber[3369:177485] 999999.99

这样看起来就舒服多了,精确度也得到了满足

在对于货币的计算显示,要时刻注意精度的问题。优先选用此API,下面是官方的说明NSDecimalNumber

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持服务器之家。

原文链接:http://www.jianshu.com/p/c6360cb13d0e?utm_source=tuicool&utm_medium=referral

延伸 · 阅读

精彩推荐
  • IOSiOS通过逆向理解Block的内存模型

    iOS通过逆向理解Block的内存模型

    自从对 iOS 的逆向初窥门径后,我也经常通过它来分析一些比较大的应用,参考一下这些应用中某些功能的实现。这个探索的过程乐趣多多,不仅能满足自...

    Swiftyper12832021-03-03
  • IOSiOS中tableview 两级cell的展开与收回的示例代码

    iOS中tableview 两级cell的展开与收回的示例代码

    本篇文章主要介绍了iOS中tableview 两级cell的展开与收回的示例代码,小编觉得挺不错的,现在分享给大家,也给大家做个参考。一起跟随小编过来看看吧...

    J_Kang3862021-04-22
  • IOSIOS开发之字典转字符串的实例详解

    IOS开发之字典转字符串的实例详解

    这篇文章主要介绍了IOS开发之字典转字符串的实例详解的相关资料,希望通过本文能帮助到大家,让大家掌握这样的方法,需要的朋友可以参考下...

    苦练内功5832021-04-01
  • IOS解析iOS开发中的FirstResponder第一响应对象

    解析iOS开发中的FirstResponder第一响应对象

    这篇文章主要介绍了解析iOS开发中的FirstResponder第一响应对象,包括View的FirstResponder的释放问题,需要的朋友可以参考下...

    一片枫叶4662020-12-25
  • IOSiOS布局渲染之UIView方法的调用时机详解

    iOS布局渲染之UIView方法的调用时机详解

    在你刚开始开发 iOS 应用时,最难避免或者是调试的就是和布局相关的问题,下面这篇文章主要给大家介绍了关于iOS布局渲染之UIView方法调用时机的相关资料...

    windtersharp7642021-05-04
  • IOSiOS 雷达效果实例详解

    iOS 雷达效果实例详解

    这篇文章主要介绍了iOS 雷达效果实例详解的相关资料,需要的朋友可以参考下...

    SimpleWorld11022021-01-28
  • IOSIOS 屏幕适配方案实现缩放window的示例代码

    IOS 屏幕适配方案实现缩放window的示例代码

    这篇文章主要介绍了IOS 屏幕适配方案实现缩放window的示例代码,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要...

    xiari5772021-06-01
  • IOS关于iOS自适应cell行高的那些事儿

    关于iOS自适应cell行高的那些事儿

    这篇文章主要给大家介绍了关于iOS自适应cell行高的那些事儿,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的...

    daisy6092021-05-17