4月19日（水）1コマ目

今日、やったこと

  • [確認テスト]N進数の小数=>10進数
  • 10進数の小数をN進数へ基数変換

今日のホワイトボード

N進数のケタの数は

例えば、2進数の場合、

  • 小数第1位のケタの数・・・2-1がいくつあるか
  • 小数第2位のケタの数・・・2-2がいくつあるか

です。

5進数なら

  • 小数第1位のケタの数・・・5-1がいくつあるか
  • 小数第2位のケタの数・・・5-2がいくつあるか

です。

図　N進数でのケタの数は

10進数の小数を2進数へ

2進数へ変換するには

  • 2-1がいくつあるか調べる=>小数第1位のケタの数
  • 2-2がいくつあるか調べる=>小数第2位のケタの数
と順に調べて行けば、各けたの数が分かる。

①小数第1位のケタの数
2進数へ変換した際の小数第1位のケタの数は、2-1がいくつあるか。
2を掛けるとその答えの整数部が0または1になる。
0なら2-1は0個、１なら2-1は1個あることになる。
よって、10進数小数に2を掛けた答えの整数部が小数第1位のケタの数。
また、掛け算の答えの小数部分は2-1より小さい数=小数第2位以下に行く数。

②小数第2位のケタの数
小数第2位のケタの数は①の掛け算の答えの小数部分に2を掛けるとわかる。
結局、元の10進数小数に２を2回掛けることになるので、2-2がいくつあるかがわかることになる。
よって、①の掛け算の答えの小数部分に２を掛けた答えの整数部が小数第2位のケタの数。
また、掛け算の答えの小数部分は2-2より小さい数=小数第3位以下に行く数。

③いつまで2を掛ける？
掛け算の答えの小数部分が0になるまで。
図　10進数の小数を2進数へ

10進数の小数を5進数へ

2進数とおなじ。
５を掛けた答えの整数部が、5-1がいくつあるか、5-2がいくるあるかになる。
図　10進数の小数を5進数へ


次回は

10進数の小数=>N進数へ基数変換のテストをします。

このブログの人気の投稿

6月7日（水）1コマ目

イメージ
今日、やったこと [確認テスト]誤差 文字コード 今日のホワイトボード (用語)文字符号化方式 文字<=>数値　の変換ルールが文字符号化方式。 図　文字符号化方式とは ASCII 一番最初に生まれた文字集合＋符号化方式。 アルファベット、数字、記号だけなので7ビット長で十分。 図　ASCIIで符号化 JIS X 0201 ASCIIを日本用に拡張。 8ビット長にして、半角カタカナを追加した。 図　JIS X 0201で符号化 おまけ C言語でアルファベットのAからZを表示する際、下図のコードで出力できる。 図　’A'から’Z'まで表示する ASCIIの表を見ると、'A'から'Z'は連続している。よって、符号化された値も0x41から0xに連続しているため、変数chをインクリメントすれば’A'から順にアルファベットが表示される。 次回は 文字コードの続きをやります。 
続きを読む

5月24日（水）1コマ目

イメージ
今日、やったこと [確認テスト]ビットシフト 誤差(オーバーフロー、アンダーフロー、丸め誤差） 今日のホワイトボード [誤差]オーバーフロー  データがデータサイズ(最大値)より大きくなると発生する。 図　オーバーフロー [誤差]アンダーフロー 浮動小数点データが最小値より小さくなると発生する。 図　アンダーフロー [誤差]丸め誤差 浮動小数点形式の場合、仮数部がデータサイズより大きい場合に発生。 2進数に変換、正規化した結果、仮数部がデータサイズ(floatなら23ビット、doubleなら52ビット)より大きい場合、データサイズ内に収めるため、floatなら24ビット目以降、doubleなら53ビット目以降を切り上げまたは切り捨てる。これが丸め。 丸めをすると、元のデータから誤差ができる。これが丸め誤差。 図　丸め誤差 次回は 誤差の続きをやります。 テストはしません。
続きを読む

5月31日（水）1コマ目

イメージ
今日、やったこと 誤差（ケタ落ち、情報落ち） 文字コード 今日のホワイトボード 有効ケタ数とは 実際に測定した値が格納されているケタが有効ケタ。 桁数合わせのために入れた値は信頼できない値。有効ケタではない。 図　有効ケタ数 [誤差]ケタ落ち 近い値同士の引き算をする際、正規化をすることで、信頼できない値が挿入される。このタイミングで有効ケタ数が減る。これがケタ落ち。 図　ケタ落ち [誤差]情報落ち 離れた値同士の計算をする際、指数部を合わせる。このとき、仮数部のデータが消えてしまうことがある。これが情報落ち。 図　情報落ち 文字コード 一般的によく使われている「文字コード」という単語は利用する局面で指すものが異なるケースが多い。よって、この授業ではなるべく文字コードという単語は使わないようにする。 文字集合、符号化 コンピュータでは各文字にオンリーワンな番号を割り当てて、その番号で文字を扱っている。 番号を振る文字の集まりが文字集合。 符号化とは、各文字にオンリーワンな番号（符号）を割り当てること。 図　文字集合、符号化 ISO、JIS いずれも規格を作る団体やその団体が作った規格。 ISOはグローバルな規格。JISは日本だけの規格。 図　ISOとJIS 符号化文字集合 各文字に符号を割り当てた文字集合を符号化文字集合。 図　文字集合と符号化文字集合 次回は 誤差の確認テストをします。 文字コードの続きをやります。  
続きを読む