5月24日（水）1コマ目

今日、やったこと

  • [確認テスト]ビットシフト
  • 誤差(オーバーフロー、アンダーフロー、丸め誤差）

今日のホワイトボード

[誤差]オーバーフロー 

データがデータサイズ(最大値)より大きくなると発生する。

図　オーバーフロー


[誤差]アンダーフロー

浮動小数点データが最小値より小さくなると発生する。

図　アンダーフロー


[誤差]丸め誤差

浮動小数点形式の場合、仮数部がデータサイズより大きい場合に発生。

2進数に変換、正規化した結果、仮数部がデータサイズ(floatなら23ビット、doubleなら52ビット)より大きい場合、データサイズ内に収めるため、floatなら24ビット目以降、doubleなら53ビット目以降を切り上げまたは切り捨てる。これが丸め。

丸めをすると、元のデータから誤差ができる。これが丸め誤差。

図　丸め誤差


次回は

誤差の続きをやります。

テストはしません。

このブログの人気の投稿

6月7日（水）1コマ目

イメージ
今日、やったこと [確認テスト]誤差 文字コード 今日のホワイトボード (用語)文字符号化方式 文字<=>数値　の変換ルールが文字符号化方式。 図　文字符号化方式とは ASCII 一番最初に生まれた文字集合＋符号化方式。 アルファベット、数字、記号だけなので7ビット長で十分。 図　ASCIIで符号化 JIS X 0201 ASCIIを日本用に拡張。 8ビット長にして、半角カタカナを追加した。 図　JIS X 0201で符号化 おまけ C言語でアルファベットのAからZを表示する際、下図のコードで出力できる。 図　’A'から’Z'まで表示する ASCIIの表を見ると、'A'から'Z'は連続している。よって、符号化された値も0x41から0xに連続しているため、変数chをインクリメントすれば’A'から順にアルファベットが表示される。 次回は 文字コードの続きをやります。 
続きを読む

5月31日（水）1コマ目

イメージ
今日、やったこと 誤差（ケタ落ち、情報落ち） 文字コード 今日のホワイトボード 有効ケタ数とは 実際に測定した値が格納されているケタが有効ケタ。 桁数合わせのために入れた値は信頼できない値。有効ケタではない。 図　有効ケタ数 [誤差]ケタ落ち 近い値同士の引き算をする際、正規化をすることで、信頼できない値が挿入される。このタイミングで有効ケタ数が減る。これがケタ落ち。 図　ケタ落ち [誤差]情報落ち 離れた値同士の計算をする際、指数部を合わせる。このとき、仮数部のデータが消えてしまうことがある。これが情報落ち。 図　情報落ち 文字コード 一般的によく使われている「文字コード」という単語は利用する局面で指すものが異なるケースが多い。よって、この授業ではなるべく文字コードという単語は使わないようにする。 文字集合、符号化 コンピュータでは各文字にオンリーワンな番号を割り当てて、その番号で文字を扱っている。 番号を振る文字の集まりが文字集合。 符号化とは、各文字にオンリーワンな番号（符号）を割り当てること。 図　文字集合、符号化 ISO、JIS いずれも規格を作る団体やその団体が作った規格。 ISOはグローバルな規格。JISは日本だけの規格。 図　ISOとJIS 符号化文字集合 各文字に符号を割り当てた文字集合を符号化文字集合。 図　文字集合と符号化文字集合 次回は 誤差の確認テストをします。 文字コードの続きをやります。  
続きを読む