Harlequin: Berechnung negativerer Werte

Beitrag lesen

Yerf!

warum erhält man die folgenden Ergebnisse in Java?

float a = –16777217F;
float b =  16777216F;
float c = 1F;

Wegen Rundungsfehlern. Da gibts auch was in der FAQ dazu (nicht wundern wegen JS, das gilt für jede Programmiersprache mit Fließkommazahlen).

Gruß,

Harlequin

--
<!--[if IE]>This page is best viewed with a webbrowser. Get one today!<![endif]-->