[GastForen Programme Print/Bildbearbeitung Adobe InDesign Skriptwerkstatt

  • Suche
  • Hilfe
  • Lesezeichen
  • Benutzerliste

Kurioses Rundungproblem

WernerPerplies
Beiträge gesamt: 2762

2. Jan 2018, 09:17
Bewertung:

gelesen: 3567

Beitrag als Lesezeichen
Hallo Herr Singlemann,

irgenwie scheint das Erklären nicht mein Ding zu sein.

Also noch ein Versuch:

Ursache für das unterschiedliche Verhalten ist die innere Klammer des zweiten Falles, der Inhalt wird zuerst berechnet.

Zitat In welchem Kontext ist es korrekt, dass ##.5 abgerundet wird?


Da haben Sie mich erwischt! Sorry, nein, natürlich nicht.

Also versuchen wir es mal mit der zweiten Erklärung:

Computer haben ja intern so Ihre Probleme mit der Rechengenauigkeit.

Könnte es vielleicht sein, dass im ersten Fall intern ein Wert kleiner ##.5 berechnet wurde und schon in der ersten Festkommadarstellung gerundet war, dieses Problem aber mit der Zwischenberechnung (##.55) nicht auftritt?

Dieser Ausdruck deutet auf jeden Fall darauf hin:
Code
Math.round((119*1.45*10).toString()) -> 1276 


und noch einen
Code
119*1.45*10 < 1725.5 ->true 


(Dieser Beitrag wurde von WernerPerplies am 2. Jan 2018, 09:32 geändert)
Änderungsverlauf:
Beitrag geändert von WernerPerplies (Veteran) am 2. Jan 2018, 09:27
Beitrag geändert von WernerPerplies (Veteran) am 2. Jan 2018, 09:28
Beitrag geändert von WernerPerplies (Veteran) am 2. Jan 2018, 09:32