• 设为首页
  • 点击收藏
  • 手机版
    手机扫一扫访问
    迪恩网络手机版
  • 关注官方公众号
    微信扫一扫关注
    公众号

C#除法的细节

原作者: [db:作者] 来自: [db:来源] 收藏 邀请
最近在做项目时有个地方用到了概率,要计算概率自然会用到除法。我这边概率的算法是这样的,从0到10000获取个随机数,随机值除以10000就是概率了,但是一时大意没注意细节,结果直接除了,如下:
Random rdo = new Random();
int intNum = rdo.Next(0,10000);
float result = intNum / 10000;

       如果intNum是845,那么理论上应该得到的是0.0845。可是结果却让我大跌眼镜,不管怎么算,结果都是0.0,如果不管怎么随机的话都是 0.0,那就失去意义了。于是百度去,原来C#的除法的精度是根据被除数来决定的,这里的被除数是intNum,它的数据类型是整形,所以这边除出来的结 果自然就取整了。既然这种方式不通,那就只有换种方式了,总之问题总得解决,于是我改成了下面这写法:      

Random rdo = new Random();
float intNum = (float)rdo.Next(0,10000);
float result = intNum / 10000;

  Ok,如愿以偿,得到了我想要的答案,比如intNum是845,那么得到的结果是0.0845.C#中解决了这个问题,于是我想到了SqlServer中会不会也有这种情况,于是我试了试,如下:

select 845/10000

  查询结果等于0,看来SQL和C#是一样的,于是我也换了种写法,如下:

select CONVERT(float,845)/10000

查询结果等于0.0845,正确。 


鲜花

握手

雷人

路过

鸡蛋
该文章已有0人参与评论

请发表评论

全部评论

专题导读
上一篇:
C#创建RichTextBox的右键菜单发布时间:2022-07-14
下一篇:
C#实现屏幕键盘(ScreenKeyboard)发布时间:2022-07-14
热门推荐
热门话题
阅读排行榜

扫描微信二维码

查看手机版网站

随时了解更新最新资讯

139-2527-9053

在线客服(服务时间 9:00~18:00)

在线QQ客服
地址:深圳市南山区西丽大学城创智工业园
电邮:jeky_zhao#qq.com
移动电话:139-2527-9053

Powered by 互联科技 X3.4© 2001-2213 极客世界.|Sitemap