ある数値が別の数値にどれだけ近似しているかを表す尺度。たとえば、計算結果の正確さは、多くの場合、計算値がその誤差のために数学的に正確な結果からどの程度異なっているかを反映します。正確さは、たとえば「結果は小数点第 6 位まで正確である」のように有効桁数として、またはより一般的に、関連する数学的プロパティーの保持 (たとえば「結果の算術符号が正しい」) のように表すことができます。
格納された指数の範囲を負でなくするために選択された定数 (バイアス) と基数が 2 の指数の和。たとえば、2-100 の指数は、IEEE 単精度形式では (-100) + (127 の単精度バイアス) = 27 として格納されます。
演算の結果を、2 番目の演算のオペランドとしてただちに使用すると同時に、デスティネーションレジスタに結果を書き込めるようにする一部のパイプラインアーキテクチャーのハードウェア機能。2 つの連鎖した演算の合計サイクル時間は、その命令の単独でのサイクル時間の合計より短くなります。たとえば TI 8847 は、(同じ精度の) 連続する fadd、fsub、および fmul の連鎖をサポートします。連鎖した faddd/fmuld は 12 サイクル必要ですが、連鎖していない連続の faddd/fmuld は 17 サイクル必要です。
3 つの浮動小数点例外であるオーバーフロー、無効、およびゼロ除算はまとめて、ieee_flags(3m) および ieee_handler(3m) のための共通例外と呼ばれています。これらは共通してエラーとしてトラップされるために共通例外と呼ばれます。
SunOS™ オペレーティングシステムなどのマルチタスクオペレーティングシステムでは、プロセスは定められた時間だけ実行されます。その時間の終わりに、CPU はタイマーからシグナルを受信し、現在実行中のプロセスを中断し、新しいプロセスの実行を準備します。CPU は古いプロセスのレジスタを保存し、続いて新しいプロセスのレジスタをロードします。古いプロセスの状態から新しい状態に切り替えることをコンテキストスイッチと呼びます。コンテキストスイッチにかかる時間はシステムオーバーヘッドです。所要時間は、レジスタの数、およびプロセスに関連付けられたレジスタを保存するための特殊な命令があるかどうかによって異なります。
表現可能な数の間の間隔が固定された絶対定数でない実数の部分集合を表すための体系。このような体系は、基数、符号、仮数、および指数 (通常はバイアス) で特徴付けられます。数値は、バイアスなしの指数まで基数を累乗した数とその仮数の符号付きの積です。
浮動小数点演算が非正規数の範囲にアンダーフローすると、0 の代わりに非正規数を返します。このアンダーフローを処理する方法では、小さい数に対する浮動小数点計算での正確さの低下を最小限に抑えます。
丸めが正しいことを確認するためにハードウェアで使用される追加ビットであり、ソフトウェアではアクセスできません。たとえば、IEEE 倍精度演算では、3 つの隠しビットを使用して 56 ビットの結果を計算します。この結果は、その後 53 ビットに丸められます。
1985 年に発行され、2008 年に改訂された、Institute of Electrical and Electronics Engineers が定めた 2 進浮動小数点演算の標準。
Sun Studio コンパイラのインラインパス中に、定義済みの関数コールと置き換えられる、アセンブリ言語コードのフラグメント。(たとえば) C プログラムから三角関数やほかの初等関数のハードウェア実装にアクセスするために、インラインテンプレートファイル (libm.il) の数学ライブラリで使用されます。
演算が複数の段階に減らされるハードウェア機能であり、その段階はそれぞれ (通常は) 1 サイクルかかる。パイプラインは、各サイクルで新しい演算が可能になるときに満たされます。パイプ内の命令間に依存関係がない場合、サイクルごとに新しい結果をもたらすことができます。連鎖は、依存している命令同士のパイプライン化を意味します。依存した命令が連鎖できない場合 (ハードウェアがこれらの特定の命令の連鎖をサポートしていない場合)、パイプラインは停止します。
表現可能な数値の密度の定量的測度。たとえば、53 の有効ビットの精度を持つ 2 進浮動小数点形式では、(正規数の範囲内で) 2 つの隣接する 2 の累乗の間に 253 の表現可能な数値があります。精度は、ある数が別の数にどれだけ近似しているかを表す正確さと混同しないでください。
あらゆる数体系の基となる数。たとえば、2 は 2 進法の基数であり、10 は 10 進法の基数です。SPARC ワークステーションは基数 2 の演算を使用しており、IEEE 標準 754 は基数 2 の演算の標準規格です。
厳密でない結果は、表現可能な値にするため切り捨てまたは切り上げを行う必要があります。切り上げられると、結果は増大されて次の表現可能な値になります。切り下げられると、結果は縮小され、直前の表現可能な値になります。