0と1で数を表し、計算する — 基数変換・2の補数・浮動小数点・論理回路
10進数と2進数・16進数の変換、2の補数による負数と引き算、浮動小数点誤差の理由、論理ゲートとド・モルガンの法則、半加算器までを手計算で学ぶ。
更新日 執筆: PassDojo 編集部
目次読了目安 約9分
0.1+0.2が0.3にならないのは、バグではない
Python で 0.1 + 0.2 を計算すると 0.30000000000000004 と表示されます(手元で実行して確認しました)。なぜずれるのでしょうか。
Python 公式チュートリアルによると、これは Python のバグでもコードのバグでもなく、浮動小数点演算を使うほぼ全ての言語で起きる現象です。原因は、小数が 2 進数で扱われることにあります。
10 進法の 1/3 は 0.333… と無限に続きます。同じことが 2 進法の 0.1 で起きます。10 進小数を 2 進小数にするには、小数部に 2 を掛けて整数部を順に取り出します。
| 手順 | 小数部 × 2 | 取り出す桁 | 次の小数部 |
|---|---|---|---|
| 1 | 0.1 × 2 = 0.2 | 0 | 0.2 |
| 2 | 0.2 × 2 = 0.4 | 0 | 0.4 |
| 3 | 0.4 × 2 = 0.8 | 0 | 0.8 |
| 4 | 0.8 × 2 = 1.6 | 1 | 0.6 |
| 5 | 0.6 × 2 = 1.2 | 1 | 0.2 |
5 行目で小数部が 0.2 に戻るので、以後は 0011 の繰り返しです。0.1 は 2 進数で 0.0001100110011… の循環小数で、チュートリアルにも載っています。一方、0.625 は 0.101(1/2 + 0/4 + 1/8)とぴったり表せます。
ビット数は有限なので、打ち切った近似値が保存されます。チュートリアルによると、1/10 は 3602879701896397 / 2 の 55 乗で近似され、正確には等しくありません。0.1 を 3 回足した式が 0.3 と等しいかを調べると False になる例もあります。0.1 + 0.2 も、近似値どうしの足し算だからずれるのです。
13を2進数にする — 割り算・検算・16進数への束ね方
10 進数の 13 を 2 進数にするには、商が 0 になるまで 2 で割り続け、余りを下から順に並べます。
| 割り算 | 商 | 余り |
|---|---|---|
| 13 ÷ 2 | 6 | 1 |
| 6 ÷ 2 | 3 | 0 |
| 3 ÷ 2 | 1 | 1 |
| 1 ÷ 2 | 0 | 1 |
余りを下から読むと 1101 です。検算は各桁の重みを足します。1×8 + 1×4 + 0×2 + 1×1 = 13 で、元の値に戻ります。26 も同じ手順で、余りが下から 1、1、0、1、0 と並ぶので 11010 です。検算は 16 + 8 + 2 = 26 です。
2 進数は長くなりやすいため、右(下位)から 4 桁ずつ区切って 16 進数 1 桁にします。16 進数は 0〜9 に続けて A=10、B=11、C=12、D=13、E=14、F=15 を使います。8 ビットの 11010110 は 1101 と 0110 に区切って D と 6 で D6 です。10 進数では 13×16 + 6 = 214 で、128 + 64 + 16 + 4 + 2 = 214 と一致します。
身近な例が Web の色指定 #FF8000 で、FF = 15×16 + 15 = 255、80 = 8×16 + 0 = 128、00 = 0 なので、赤 255・緑 128・青 0 です。文字も数値で、ASCII(7 ビット)の A は 16 進の 41、多言語対応の UTF-8 の「あ」は E3 81 82 の 3 バイトです。
−1を8ビットで書く — 2の補数と、引き算が足し算になる理由
負の数は「2 の補数」で表します。作り方は、ビットをすべて反転して 1 を足すだけです。1 = 00000001 を反転すると 11111110、1 を足して 11111111 になり、これが −1 です。−3 は 11111101 です。
| ビット列 | 符号なしの値 | 2 の補数の値 |
|---|---|---|
| 00000001 | 1 | 1 |
| 10000000 | 128 | −128 |
| 11111101 | 253 | −3 |
| 11111111 | 255 | −1 |
同じ 8 ビットでも、最上位ビットが 1 なら負の数で、8 ビットで表せる範囲は −128〜127 です。2 の補数の利点は、引き算を足し算で行えることです。5 − 3 を 5 + (−3) として 8 ビットで計算します。
| 項目 | ビット列 | 意味 |
|---|---|---|
| 5 | 00000101 | 5 |
| −3 | 11111101 | −3 |
| 足し算の結果 | 1 00000010 | 9 ビット(258) |
| 桁あふれの 1 を捨てる | 00000010 | 2 |
9 ビット目の 1 は 8 ビットの回路に入らないので捨てます。残る 00000010 は 2 で、5 − 3 = 2 と一致します。11111101 は符号なしで 253 = 256 − 3 なので、5 + 253 = 258 = 256 + 2 となり、256 が桁あふれで消えて 2 が残ります。加算回路だけで引き算もできるわけです。
小数が表せないとき — 浮動小数点の符号・指数・仮数
小数や非常に大きな数は「符号・指数部・仮数部」の 3 つに分けて表します。これが浮動小数点数で、10 進数の科学表記の 2 進数版です。
6.5 で手順を追います。整数部 6 は 110、小数部 0.5 は 0.1 なので 6.5 = 110.1 です。小数点を左へ 2 つ動かし、1.101 × 2 の 2 乗 にそろえます。符号は 0、指数部は 2、仮数部は 101 です。戻して確かめると、1.101 = 1 + 1/2 + 1/8 = 1.625 で、1.625 × 4 = 6.5 です。実際の形式(IEEE 754)には細かい決まりもあります。
仮数部のビット数は有限です。チュートリアルによると、現在のほとんどのコンピューターは最上位から 53 ビットで近似します。0.1 のように 2 進数で循環する小数は打ち切るので誤差が出ますが、0.625 のように 2 のべき乗を分母とする分数で書ける数は誤差なしで表せます。
対策として、チュートリアルは近さで比べる math.isclose や 10 進数の decimal モジュールを挙げています。試験では「情報落ち」(絶対値の大きい数に小さい数を足すと小さい方が反映されない現象)も出ます。
AND・OR・NOT・XOR — 真理値表で回路を読む
論理回路は、0(偽)と 1(真)を入力し、0 か 1 を出力する部品の組み合わせです。動きは真理値表で決まります。AND は両方 1 のとき 1、OR は少なくとも一方が 1 のとき 1、XOR は入力が異なるとき 1、NAND は AND の否定です。NOT は入力を反転します。
| A | B | A AND B | A OR B | A XOR B | A NAND B |
|---|---|---|---|---|---|
| 0 | 0 | 0 | 0 | 0 | 1 |
| 0 | 1 | 0 | 1 | 1 | 1 |
| 1 | 0 | 0 | 1 | 1 | 1 |
| 1 | 1 | 1 | 1 | 0 | 0 |
回路図は入力側から 1 ゲートずつ読みます。A=1、B=1、C=0 のとき (A AND B) XOR C は、1 AND 1 = 1、続けて 1 XOR 0 = 1 で、出力は 1 です。
NAND は単独で他のゲートを作れる万能ゲートです。入力を 2 本ともつないだ NAND(A, A) は、A=0 なら 1、A=1 なら 0 で、NOT と同じ動きをします。
ド・モルガンの法則と半加算器 — 回路で1+1を計算する
ド・モルガンの法則は、否定を括弧の中へ入れると AND と OR が入れ替わる規則です。NOT(A AND B) = (NOT A) OR (NOT B)、NOT(A OR B) = (NOT A) AND (NOT B) の 2 本があります。4 通りの入力で確かめます。
| A | B | NOT(A AND B) | (NOT A) OR (NOT B) | NOT(A OR B) | (NOT A) AND (NOT B) |
|---|---|---|---|---|---|
| 0 | 0 | 1 | 1 | 1 | 1 |
| 0 | 1 | 1 | 1 | 0 | 0 |
| 1 | 0 | 1 | 1 | 0 | 0 |
| 1 | 1 | 0 | 0 | 0 | 0 |
3 列目と 4 列目、5 列目と 6 列目が、どの行でも一致しています。(NOT A) AND (NOT B) は NOT(A OR B) の変換で、取り違えやすい点です。
1 ビットの足し算を行うのが半加算器です。1 + 1 = 10(2 進数)なので、和 S と上の桁への桁上がり C の 2 本の出力が必要で、S は XOR、C は AND で作れます。
| A | B | C(A AND B) | S(A XOR B) |
|---|---|---|---|
| 0 | 0 | 0 | 0 |
| 0 | 1 | 0 | 1 |
| 1 | 0 | 0 | 1 |
| 1 | 1 | 1 | 0 |
A=1、B=1 のとき S = 1 XOR 1 = 0、C = 1 AND 1 = 1 で、結果は 10(10 進数の 2)です。下位からの桁上がりも加える全加算器をつなぐと、8 ビットの足し算になります。
出典:Python Software Foundation『Python チュートリアル 15. 浮動小数点演算、その問題と制限』https://docs.python.org/ja/3/tutorial/floatingpoint.html 。IPA『基本情報技術者試験 シラバス Ver.9.2』https://www.ipa.go.jp/shiken/syllabus/omgdg50000005kpe-att/syllabus_fe_ver9_2.pdf 。
ここまでの要点 — 数の表し方と論理回路を5分で復習
- 基数変換は、2 で割って余りを下から並べます。13 は 1101、26 は 11010 です。
- 2 進数 4 桁は 16 進数 1 桁で、11010110 は D6 です。
- 2 の補数は「全ビット反転して 1 を足す」です。8 ビットの −1 は 11111111、範囲は −128〜127 です。
- 5 − 3 は 00000101 + 11111101 = 1 00000010 で、桁あふれの 1 を捨てて 2 です。
- 0.1 は 2 進数で循環小数になり近似値で保存されるため、0.1 + 0.2 は 0.3 と一致しません。
- NOT(A AND B) = (NOT A) OR (NOT B) です。半加算器は S = A XOR B、C = A AND B です。
- 試験では、基数変換・補数の計算、浮動小数点誤差の原因、ド・モルガンの法則の式変換、半加算器の出力が問われます。