]> git.lizzy.rs Git - rust.git/commit
Make sNaN removal code tolerate different sNaN encodings
authorest31 <MTest31@outlook.com>
Mon, 3 Jul 2017 14:16:45 +0000 (16:16 +0200)
committerest31 <MTest31@outlook.com>
Mon, 3 Jul 2017 19:51:36 +0000 (21:51 +0200)
commit3ba0f07f08516c365bc33615e162f83ab182f0b5
tree56ab120cd778d2c73ec3e066adb0712be9d86052
parent1d2db7b9e8082f0459e000985d77fc7ad0dabade
Make sNaN removal code tolerate different sNaN encodings

IEEE 754-1985 specifies the encoding of NaN floating point numbers,
but while it mentions that NaNs can be subdivided into signaling
and quiet ones, it doesn't fix the encoding of signaling NaNs in binary
formats. This led to different implementations (CPUs) having different
encodings. IEEE 754-2008 finally specified the encoding of signaling NaNs
but some architectures are compatible with it, while others aren't.
Certain MIPS and PA-RISC CPUs have different encodings for signaling
NaNs.

In order to have the float <-> binary cast feature of the std library be
portable to them, we don't mask any quiet NaNs like we did before (only
being compliant to IEEE 754-2008 and nothing else), but instead we
simply pass a known good NaN instead.

Note that in the code removed there was a bug; the 64 bit mask for quiet
NaNs should have been `0x0008000000000000` instead of the specified
`0x0001000000000000`.
src/libstd/f32.rs
src/libstd/f64.rs