「桁落ち」とは
値のほぼ等しい二つの数を引き算したとき、有効な桁が減ってしまう誤差。
科目Aの過去問での出方
IPA の公開問題・過去問のうち 2問 の問題文・選択肢・解説に出てきます。よく出る論点:浮動小数点・誤差(2問)。
- 平成27年度 春期 問2・浮動小数点・誤差覚えること:桁落ち=ほぼ同じ大きさの数どうしの引き算で、有効桁数が大きく減ること。
- 平成22年度 秋期 問2・浮動小数点・誤差覚えること:桁落ち=ほぼ同じ大きさの数どうしの引き算で、有効桁数が大きく減ること。
コンピュータの基礎の用語
- 全加算器下の桁からのけた上がりも含めて、1ビットの足し算を行う回路。半加算器…
- A/D変換アナログ信号をディジタルデータに変換すること。標本化→量子化→符号化…
- PCMパルス符号変調。音声などのアナログ信号を、標本化・量子化・符号化して…
- 丸め誤差決まった桁数に収めるために、四捨五入や切り捨てをしたときに生じる誤差…
- 情報落ち絶対値の大きな数と小さな数を足し引きしたとき、小さな数の桁が結果に反…
- オーバフロー計算の結果が、表せる範囲を超えてしまうこと。
- 8進数0〜7 の8種類で数を表す方法。2進数の3桁が8進数の1桁に対応する…
- 10進数ふだん使っている、0〜9 の10種類で数を表す方法。
- 基数何進数かを表す数。2進数の基数は 2、16進数は 16。
- 文字コード文字に割り当てた番号。ASCII、Unicode(UTF-8)、シフ…