目录
  • C#的String转换成float防止精度丢失
    • 精度问题
    • 解决办法
  • Unity C# String转Float
    • 总结

      C#的String转换成float防止精度丢失

      精度问题

      float x = float.Parse(s);

      在提交小数的时候会出现精度丢失问题,

      举个例子:

      unity中的Position中的x,y,z为2.073282,-1.106536,转换成float肯定会丢失值

      • float:浮点型,含字节数为4,32bit,数值范围为-3.4E38~3.4E38(7个有效位)
      • double:双精度实型,含字节数为8,64bit数值范围-1.7E308~1.7E308(15个有效位)
      • decimal:数字型,128bit,28个有效位 float  与计算机中数值表示方法有关,不是准确数据. decimal 是准确数据,不会出现这个问题

      解决办法

      C#的String转换成float防止精度丢失问题的解决

      Unity C# String转Float

      //方法1
      float f1 = Convert.ToSingle(s);
      //方法2
      float f2;
      if (!float.TryParse(s, out f2))
      {
           Console.WriteLine("无法转换!");
      }

      总结

      以上为个人经验,希望能给大家一个参考,也希望大家多多支持。

      声明:本站所有文章,如无特殊说明或标注,均为本站原创发布。任何个人或组织,在未征得本站同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益,可联系我们进行处理。