蜃気楼

コンピュータは少数の扱いマジで苦手なんぬ
浮動小数点 誤差 とかで検索すると解説記事がどっさり出てくるんぬ
頑張ると誤差をかなり減らせるんぬが今度は計算が遅くなるんぬ

なんで小数そんなに苦手なんぬ？

>浮動小数点 誤差 とかで検索すると解説記事がどっさり出てくるんぬ
端的には2進法で計算するからとか有理数でも分数ではなく少数で扱うからとか
もっと細かい話もいっぱいあるんぬで長くなるんぬで自分で調べてほしいんぬ

ざっくり言うと10進数なら綺麗に書けても2進数だと無限に紙が必要になる数値があるんぬ
人間は10進数で考えててコンピュータは2進数で考えてるから人がなんとなく使う数字でもコンピュータには表現できないことがあるんぬ

桁数決まってるんなら後で小数点付ければ綺麗なんぬ
固定小数点なんぬ

excelってdecimal()とかあるんぬ？

Excelは先人キャッツの知恵が沢山あるからググるんぬ今ならAIもあるんぬなぁ

VBAまったくわからんがExcelでも小数点以下15位を越してくると
勝手に切り捨てたりするんぬ
やたらと桁数増やしたらダメなんぬ
数学的な正確さを求めるなら有理数なり超越関数使うなりして最後の最後に小数で近似するんぬ

>なんで小数そんなに苦手なんぬ？
0.5と0.25と0.125と…みたいな(1/2)^nのいろんな数の合計で小数を表しているからなんぬ

VBAをやめることがvictory

浮動小数点数演算があるから知識のない人が適当に集計するとハマることかあるんぬな
昔よくヒでエクセルで金額計算したら電卓で検算しろと言われたって新入社員をよく見かけたのも
理不尽に見えて一応理がある話なんぬな

Excel使わない方が早インパラ

aiにやりたいこと書いてコード出してもらうほうが楽だよ

ぬけどとか書いちゃうぐらいなら無理にぬ口調使わないでいいんぬ

仕事中

>ぬけどとか書いちゃうぐらいなら無理にぬ口調使わないでいいんぬ
ぬ文法警察なんぬ！
ここは「始めたんぬが」が正しいんぬな