Numeric(数值)

  • 10的正次方与10的负次方的区别

    10^(3) = 10 * 10 * 10 = 1000 10^(-3) = 0.1 * 0.1 * 0.1 = 0.001 所以 10的N次方等于数字1后跟3个0 10的负N次方等于数字1前3个0,最前面的0后加小数点。

    实用经验 2021年10月14日
    05690
  • IEEE 754二进制浮点算术标准

    计算机是不能理解十进制整数的,将十进制整数转换成计算机能够理解的二进制数是很容易的,但是如果将十进制浮点数转化成计算机能够理解的二进制形式还是相当有困难的。 1.科学记数法 IEEE 754 的开发者最终想到的方法是使用了科学记数法的思想。 科学记数法是表示数字的标准方法,您可能熟悉以 10 为基数的科学记数法。 其中…

    操作系统经验 2021年3月2日
    03920