4月12日（水）1コマ目

 今日、やったこと

  • N進数とは
  • 基数
  • N進数を10進数へ

今日のホワイトボード

10進数は

10進数は0～9の10個の記号を使う。

図　10進数

3進数は

3進数は0、1、2の３つの記号を使う。
0->1->2の次は3にはならずにケタ上がり(2ケタ目が1増える）して、10になる。
図　3進数

11進数では

11進数では0～9に加えて11番目の記号を使う。
11番目の記号にはaがよく使われている。
図　11進数

2進数

コンピュータではよく2進数が使われる。
2進数は0と1の2つの記号を使う。
図　2進数

基数

10進数なら基数は10。2進数なら基数は2。

ケタの重み

10進数でのケタの重みは下図のとおり。
図　ケタの重み(10進数)


N進数のnケタ目のケタの重みは
　N(n-1)
になる。
ケタの重みとは、10進数での各桁の基準となる値。

2進数では下図のとおり。
図　ケタの重み(2進数)

N進数を10進数へ変換(基数変換）

ケタの重みは10進数での各けたの基準となる値なので、

　ケタの数　×　ケタの重み　の総和

で10進数へ変換できる。
図　N進数を10進数へ変換

次回は

N進数を10進数へ変換の続きをやります。




このブログの人気の投稿

6月7日（水）1コマ目

イメージ
今日、やったこと [確認テスト]誤差 文字コード 今日のホワイトボード (用語)文字符号化方式 文字<=>数値　の変換ルールが文字符号化方式。 図　文字符号化方式とは ASCII 一番最初に生まれた文字集合＋符号化方式。 アルファベット、数字、記号だけなので7ビット長で十分。 図　ASCIIで符号化 JIS X 0201 ASCIIを日本用に拡張。 8ビット長にして、半角カタカナを追加した。 図　JIS X 0201で符号化 おまけ C言語でアルファベットのAからZを表示する際、下図のコードで出力できる。 図　’A'から’Z'まで表示する ASCIIの表を見ると、'A'から'Z'は連続している。よって、符号化された値も0x41から0xに連続しているため、変数chをインクリメントすれば’A'から順にアルファベットが表示される。 次回は 文字コードの続きをやります。 
続きを読む

5月24日（水）1コマ目

イメージ
今日、やったこと [確認テスト]ビットシフト 誤差(オーバーフロー、アンダーフロー、丸め誤差） 今日のホワイトボード [誤差]オーバーフロー  データがデータサイズ(最大値)より大きくなると発生する。 図　オーバーフロー [誤差]アンダーフロー 浮動小数点データが最小値より小さくなると発生する。 図　アンダーフロー [誤差]丸め誤差 浮動小数点形式の場合、仮数部がデータサイズより大きい場合に発生。 2進数に変換、正規化した結果、仮数部がデータサイズ(floatなら23ビット、doubleなら52ビット)より大きい場合、データサイズ内に収めるため、floatなら24ビット目以降、doubleなら53ビット目以降を切り上げまたは切り捨てる。これが丸め。 丸めをすると、元のデータから誤差ができる。これが丸め誤差。 図　丸め誤差 次回は 誤差の続きをやります。 テストはしません。
続きを読む

5月31日（水）1コマ目

イメージ
今日、やったこと 誤差（ケタ落ち、情報落ち） 文字コード 今日のホワイトボード 有効ケタ数とは 実際に測定した値が格納されているケタが有効ケタ。 桁数合わせのために入れた値は信頼できない値。有効ケタではない。 図　有効ケタ数 [誤差]ケタ落ち 近い値同士の引き算をする際、正規化をすることで、信頼できない値が挿入される。このタイミングで有効ケタ数が減る。これがケタ落ち。 図　ケタ落ち [誤差]情報落ち 離れた値同士の計算をする際、指数部を合わせる。このとき、仮数部のデータが消えてしまうことがある。これが情報落ち。 図　情報落ち 文字コード 一般的によく使われている「文字コード」という単語は利用する局面で指すものが異なるケースが多い。よって、この授業ではなるべく文字コードという単語は使わないようにする。 文字集合、符号化 コンピュータでは各文字にオンリーワンな番号を割り当てて、その番号で文字を扱っている。 番号を振る文字の集まりが文字集合。 符号化とは、各文字にオンリーワンな番号（符号）を割り当てること。 図　文字集合、符号化 ISO、JIS いずれも規格を作る団体やその団体が作った規格。 ISOはグローバルな規格。JISは日本だけの規格。 図　ISOとJIS 符号化文字集合 各文字に符号を割り当てた文字集合を符号化文字集合。 図　文字集合と符号化文字集合 次回は 誤差の確認テストをします。 文字コードの続きをやります。  
続きを読む