shinmのブログ

ITエンジニアの日常。

2013-02-12から1日間の記事一覧

情報処理試験高度共通午前1の勉強

今日勉強した内容 2の補数 負の値を表現するために使用 加算器で減算を処理できる 数値を2進数に変換し反転したものが「1の補数」。それに1を加算したものが2の補数。 浮動小数点 桁数の大きい値を表現しやすい。 科学技術計算に使われる。 誤差が出る…