我正在尝试为半精度浮点类型实现二进制16编码。
除了一个细节外,代码仍在工作:它返回一个具有三个属性(符号、指数、分数(的对象,但我希望它返回浮点数。现在,我必须打电话给to_f
才能到达花车。我希望它以集成的 int 和 float 类的工作方式工作。
这是我的代码:
require 'bindata'
class Binary16Be < BinData::Record
# naming based on https://en.wikipedia.org/wiki/Half-precision_floating-point_format
bit1 :sign_bit
bit5 :exponent
bit10 :fraction
def sign
sign_bit.zero? ? 1 : -1
end
def to_f
if exponent == 31 # special value in binary16 - all exponent bits are 1
return fraction.zero? ? (sign * Float::INFINITY) : Float::NAN
end
sign * 2**(exponent - 15) * (1.0 + fraction.to_f / 1024)
end
end
我想要什么:
Binary16Be.read("x3Cx00")
=> 1.0
现在会发生什么:
Binary16Be.read("x3Cx00")
{:sign_bit=>0, :exponent=>15, :fraction=>0}
(这实际上不是我自己的答案,我从宝石的作者那里收到了这个答案。对他的回答做了轻微的修改,以更好地适应这种问答格式。
该过程在 bindata Wiki/基元类型中描述
在您的情况下:
- 子类
Primitive
而不是Record
- 将
#to_f
重命名为#get
- 实施
#set
转换后的代码
class Binary16Be < BinData::Primitive
# naming based on
# https://en.wikipedia.org/wiki/Half-precision_floating-point_format
bit1 :sign_bit
bit5 :exponent
bit10 :fraction
def sign
sign_bit.zero? ? 1 : -1
end
def get
if exponent == 31 # special value in binary16 - all exponent bits are 1
return fraction.zero? ? (sign * Float::INFINITY) : Float::NAN
end
sign * 2**(exponent - 15) * (1.0 + fraction.to_f / 1024)
end
def set(val)
self.sign = (val >= 0.0)
self.fraction = ... # TODO implement
self.exponent = ... # TODO implement
end
end