Oppolzer - Informatik / Blog


Blog-Hauptseite      Neuester Artikel      Älterer Artikel      Neuerer Artikel      Älterer gleiche Kategorie      Neuerer gleiche Kategorie

ASSEMBLER-L - IEEE Gleitkommazahlen und -Genauigkeiten

Subject:

Re: IEEE floating points

From:

Bernd Oppolzer <bernd.oppolzer@T-ONLINE.DE>

Reply-To:

IBM Mainframe Assembler List <ASSEMBLER-LIST@LISTSERV.UGA.EDU>

Date:

2011.03.24 07:51:09


Hi M.,

anyway: it's a problem of proper (that is: identical) rounding, because the OP
said that the computed pixels are one position off on the different platforms.

Kind regards

Bernd



Am 23.03.2011 20:23, schrieb M.T.:
> Bernd,
>
> No financial - just pel positioning (printing) even cheques being
> printed with a few pixels off would be accepted.
>
> Dare do I guess what nationality the customer is that wants identical
> results ;-)
>
> --
> M.
>

Blog-Hauptseite      Neuester Artikel      Älterer Artikel      Neuerer Artikel      Älterer gleiche Kategorie      Neuerer gleiche Kategorie