在 BinData 中实现基本数据类型



我正在尝试为半精度浮点类型实现二进制16编码。

除了一个细节外,代码仍在工作:它返回一个具有三个属性(符号、指数、分数(的对象,但我希望它返回浮点数。现在,我必须打电话给to_f才能到达花车。我希望它以集成的 int 和 float 类的工作方式工作。

这是我的代码:

require 'bindata'
class Binary16Be < BinData::Record
  # naming based on https://en.wikipedia.org/wiki/Half-precision_floating-point_format
  bit1 :sign_bit
  bit5 :exponent
  bit10 :fraction
  def sign
    sign_bit.zero? ? 1 : -1
  end
  def to_f
    if exponent == 31 # special value in binary16 - all exponent bits are 1
      return fraction.zero? ? (sign * Float::INFINITY) : Float::NAN
    end
    sign * 2**(exponent - 15) * (1.0 + fraction.to_f / 1024)
  end
end

我想要什么:

Binary16Be.read("x3Cx00")
=> 1.0

现在会发生什么:

Binary16Be.read("x3Cx00")
{:sign_bit=>0, :exponent=>15, :fraction=>0}

(这实际上不是我自己的答案,我从宝石的作者那里收到了这个答案。对他的回答做了轻微的修改,以更好地适应这种问答格式。

该过程在 bindata Wiki/基元类型中描述

在您的情况下:

  1. 子类Primitive而不是Record
  2. #to_f重命名为 #get
  3. 实施#set

转换后的代码

class Binary16Be < BinData::Primitive
  # naming based on
  # https://en.wikipedia.org/wiki/Half-precision_floating-point_format
  bit1 :sign_bit
  bit5 :exponent
  bit10 :fraction
  def sign
    sign_bit.zero? ? 1 : -1
  end
  def get
    if exponent == 31 # special value in binary16 - all exponent bits are 1
      return fraction.zero? ? (sign * Float::INFINITY) : Float::NAN
    end
    sign * 2**(exponent - 15) * (1.0 + fraction.to_f / 1024)
  end
  def set(val)
    self.sign = (val >= 0.0)
    self.fraction = ... # TODO implement
    self.exponent = ... # TODO implement
  end
end

相关内容

  • 没有找到相关文章

最新更新