【Excel】実は計算誤差がある|小数の比較は注意

Sdílet
Vložit
  • čas přidán 9. 03. 2022
  • エクセルで=0.1=1.2-1.1はTRUEではなくFALSEになってしまいます。同じ0.1なのになぜFALSE?表示桁数を増やしてみてください。すると=1.2-1.1の計算結果が0.99999...となっていることがわかります。
    ROUND関数がよくわからない人
    • 【Excel】小数点の切り捨て切り上げ四捨五...
    <おすすめ動画紹介>
    📘Wordの使い方
    入門・初心者➡ • Wordの使い方<基礎がわかる!初心者・入門編>
    タブの幅揃え➡ • Wordでタブの間隔を揃えるにはルーラーを使...
    📗Excelの生産性UP!
    マウスを使い倒す!➡ • 【Excel】マウスのスゴ技テクニック集!シ...
    ショートカットまとめ!➡ • 【Excel】作業高速化キーボード操作&よく...
    💻マクロ・VBAを学びたいなら
    時間がない人用➡ • エクセルVBA・マクロ入門講座|初心者がゼロ...
    丁寧に学びたい人用↓マクロちゃんねる(サブチャンネル)
    / @macro-chan
  • Jak na to + styl

Komentáře • 13

  • @yukikyuki7322
    @yukikyuki7322 Před 2 lety

    目から鱗でした
    貴重な情報ありがとうございます!

  • @user-hm5ot8sx6b
    @user-hm5ot8sx6b Před 2 lety

    衝撃的でした。考え方が変わりそうです。ありがとうございました。

  • @hryoshi2025
    @hryoshi2025 Před 2 lety

    これ、前から気になってました。
    やはりROUND関数を使うしかないんですね。
    仕事でも少数を使うことが多々あるので、比較するときは気をつけます。
    ありがとうございました!

  • @fpza35034931
    @fpza35034931 Před 2 lety +1

    リクエストさせていただいた者です。早速ありがとうございます!

    • @pckatuyou
      @pckatuyou  Před 2 lety +1

      リクエストありがとうございました!!

  • @sme11251209
    @sme11251209 Před 2 lety +2

    教職員ですが平均だすときにラウンド関数必要な理由がよくわかりました。
    小数点狂うと評定かわっちゃう。

  • @user-ci7og8cm9u
    @user-ci7og8cm9u Před 2 lety

    今まで、何となく理解していましたが、まさにここ2,3日で同じことに遭遇しました。
    2つの値を比較して完全に一致しませんでしたが、小数点以下13桁まで一致していたので相手には納得してもらえました。

  • @yossiah
    @yossiah Před 2 lety

    これは知りませんでした。PC活用ちゃんねるさんからは学び尽きることがありません

  • @meikai3316
    @meikai3316 Před rokem

    このパターンで致命的だったのは計算結果が0.05%時、エクセル内部だと0.000499999999999になってるから、桁数減らした時に0.1%にならないといけないところが0.0%になった事

  • @user-ci7og8cm9u
    @user-ci7og8cm9u Před 2 lety

    「知ってた❓」から始まると、CZcamsのアフィリエイトに出てくる「知ってた、物販って実は…」みたいなインチキ臭いCMを思い出しますwww😅

  • @user-ek4sq6gk8y
    @user-ek4sq6gk8y Před 2 lety

    小数点第2位を、四捨五入ですよね?

    • @pckatuyou
      @pckatuyou  Před 2 lety +1

      小数点第一位で揃えたいならROUND関数の第2引数には1を入れます。小数点第一位で揃える=小数点第2位を四捨五入です。

  • @hsamali938
    @hsamali938 Před 2 lety

    표 하 마지막에