4月17日（月）2コマ目

今日、やったこと

  • 確認テスト(整数の基数変換）
  • 小数の基数変換(N進数=>10進数）

今日のホワイトボード

小数でのケタの重み

小数点以下は、N-1、N-2、・・(Nは基数)となる。

図　小数でのケタの重み
ちなみに2進数でのケタの重みは下図のようになる。
図　2進数の小数のケタの重み

練習問題の解答例

ケタの重みが分かればあとは整数の場合と同じ。
　ケタの数×ケタの重み　の総和
でN進数の小数を10進数へ基数変換できる。

⑦、⑧8進数の小数を10進数へ
図　8進数小数を10進数へ
⑨、⑩16進数の小数を10進数へ
図　16進数小数を10進数へ

次回は

N進数の小数を10進数へ基数変換の確認テストをします。



 

このブログの人気の投稿

6月7日（水）1コマ目

イメージ
今日、やったこと [確認テスト]誤差 文字コード 今日のホワイトボード (用語)文字符号化方式 文字<=>数値　の変換ルールが文字符号化方式。 図　文字符号化方式とは ASCII 一番最初に生まれた文字集合＋符号化方式。 アルファベット、数字、記号だけなので7ビット長で十分。 図　ASCIIで符号化 JIS X 0201 ASCIIを日本用に拡張。 8ビット長にして、半角カタカナを追加した。 図　JIS X 0201で符号化 おまけ C言語でアルファベットのAからZを表示する際、下図のコードで出力できる。 図　’A'から’Z'まで表示する ASCIIの表を見ると、'A'から'Z'は連続している。よって、符号化された値も0x41から0xに連続しているため、変数chをインクリメントすれば’A'から順にアルファベットが表示される。 次回は 文字コードの続きをやります。 
続きを読む

5月24日（水）1コマ目

イメージ
今日、やったこと [確認テスト]ビットシフト 誤差(オーバーフロー、アンダーフロー、丸め誤差） 今日のホワイトボード [誤差]オーバーフロー  データがデータサイズ(最大値)より大きくなると発生する。 図　オーバーフロー [誤差]アンダーフロー 浮動小数点データが最小値より小さくなると発生する。 図　アンダーフロー [誤差]丸め誤差 浮動小数点形式の場合、仮数部がデータサイズより大きい場合に発生。 2進数に変換、正規化した結果、仮数部がデータサイズ(floatなら23ビット、doubleなら52ビット)より大きい場合、データサイズ内に収めるため、floatなら24ビット目以降、doubleなら53ビット目以降を切り上げまたは切り捨てる。これが丸め。 丸めをすると、元のデータから誤差ができる。これが丸め誤差。 図　丸め誤差 次回は 誤差の続きをやります。 テストはしません。
続きを読む

5月31日（水）1コマ目

イメージ
今日、やったこと 誤差（ケタ落ち、情報落ち） 文字コード 今日のホワイトボード 有効ケタ数とは 実際に測定した値が格納されているケタが有効ケタ。 桁数合わせのために入れた値は信頼できない値。有効ケタではない。 図　有効ケタ数 [誤差]ケタ落ち 近い値同士の引き算をする際、正規化をすることで、信頼できない値が挿入される。このタイミングで有効ケタ数が減る。これがケタ落ち。 図　ケタ落ち [誤差]情報落ち 離れた値同士の計算をする際、指数部を合わせる。このとき、仮数部のデータが消えてしまうことがある。これが情報落ち。 図　情報落ち 文字コード 一般的によく使われている「文字コード」という単語は利用する局面で指すものが異なるケースが多い。よって、この授業ではなるべく文字コードという単語は使わないようにする。 文字集合、符号化 コンピュータでは各文字にオンリーワンな番号を割り当てて、その番号で文字を扱っている。 番号を振る文字の集まりが文字集合。 符号化とは、各文字にオンリーワンな番号（符号）を割り当てること。 図　文字集合、符号化 ISO、JIS いずれも規格を作る団体やその団体が作った規格。 ISOはグローバルな規格。JISは日本だけの規格。 図　ISOとJIS 符号化文字集合 各文字に符号を割り当てた文字集合を符号化文字集合。 図　文字集合と符号化文字集合 次回は 誤差の確認テストをします。 文字コードの続きをやります。  
続きを読む