1/10が循環小数になるのなんでだろう

2進数だと無限小数になるから

0.48-0.47-0.01だとちゃんと0になるのに

fu3575694.png

>バカ貼る
fu3575726.png

-0.1がなんか内部的に別の処理されてたりする？

🤖10進数で計算すればいいのに…

>🤖10進数で計算すればいいのに…
こっちのセリフや

べき乗の計算もgoogle電卓は間違いを起こすから使うなと注意されたことある

小数を整数に変換して計算してから元の少数の桁に戻せば大丈夫だって
その解決でいいのかgoogle

>-0.1がなんか内部的に別の処理されてたりする？
浮動小数点 誤差とかで調べるといいよ
雑にいうと0.1を2進数で表現するの大変って話

Excelとかでよくやるわ
小数点の分を後から割り算するの

>-0.1がなんか内部的に別の処理されてたりする？
4.8-4.7の時点で0.999…になる(浮動小数点数というコンピュータに負荷のかからない計算)
ここまでならだいたい1だろって四捨五入するんだけど後ろに-0.1が付くと小数がでてくるのでコンピュータがきっちり小数点以下出せって事か…って判断して0.999…と-0.1を計算してスレ画の結果になる

>雑にいうと0.1を2進数で表現するの大変って話
0.1だけが特別なんだろうか

固定小数点だと0.1の問題は解決できるけど今度は10/3 + 10/3 + 10/3が0.9999…になる問題があったはず

その点COBOLってすごいよな
計算機科学をしらない英語話者が何も考えずに金融計算できるように作られてる
いまだに消えないわけだぜ

あぁなるほど2進数だとそもそも小数を表せない場合があるのね

これとか乱数とか簡単そうに見えるものが意外と大変なの面白いよね

0.00000000003608とか出せばいいのにe-16とか書くからアホに見える

>0.00000000003608とか出せばいいのにe-16とか書くからアホに見える
e-16には0が5個足りないぞ

循環小数はどんな進数にも存在する

>固定小数点だと0.1の問題は解決できるけど今度は10/3 + 10/3 + 10/3が0.9999…になる問題があったはず
有理数型を用意しよう

>>🤖10進数で計算すればいいのに…
>こっちのセリフや
このレスで今年初めて笑った

Fortran＆MATLAB「俺を使え！」

>Fortran＆MATLAB「俺を使え！」
「」！やってきてくれるのか！この仕事を！

> COBOL「俺を使え！」

2進数にすると情報が変わっちゃうの？なんか不思議

予算がないのでnumpyで代替します！

>2進数にすると情報が変わっちゃうの？なんか不思議
バカが横着して勝手に変えてるだけだぞ

浮動小数点ってのがよくないのか
つまり浮動小数点ユニットのない68030とかならこういうエラーは起きない？

>> COBOL「俺を使え！」
そもそものきっかけが｢なんで銀行は古臭いCOBOLつかうの？｣の回答がスレ画なんだ

新しいCOBOL作ろうぜ

COBOLを超えたCOBOL…COBOL++ってところかな

指数表現がアホに見える人初めて見たなあ

>新しいCOBOL作ろうぜ
それってもうCOBOLの意味なくね？