一个数字与另一个数字的近似程度的衡量标准。例如,计算结果的精确度通常反映了导致该结果与数学精确结果之差的计算误差程度。精确度可以使用有效位数(例如,“结果精确到六位”)来表示,或者更常使用保留的相关数学属性(例如,“结果具有正确的代数符号”)来表示。
底数为 2 的指数和一个常量(偏置)之和,选择该常量的目的是为了使存储的指数范围为非负值。例如 2-100 的指数,以 IEEE 单精度格式存储为 (-100) +(单精度偏置 127)= 27。
一些管道体系结构的硬件功能,允许将一个运算的结果立即用作第二个运算的操作数,并同时将结果写入其目标寄存器。两个链接运算的总周期时间小于指令的独立周期时间之和。例如,TI 8847 支持连续的 fadd、fsub 和 fmul(相同精度)链接。链接的 faddd/fmuld 需要 12 个周期,而连续的未链接 faddd/fmuld 需要 17 个周期。
对于 ieee_flags(3m) 和 ieee_handler(3m) 来说,溢出、无效以及被零除这三种浮点异常统称为常见异常。由于这些异常通常作为错误捕获,因此称为常见异常。
在多任务操作系统(例如 SunOS™ 操作系统)中,进程按照固定的时间量程运行。在时间量程结束时,CPU 接收计时器的信号,中断当前正在运行的进程,然后准备运行新进程。CPU 保存旧进程的寄存器,然后为新进程加载寄存器。从旧进程状态切换到新进程的过程称为上下文切换。切换上下文花费的时间属于系统开销;所需的时间取决于寄存器的数量,以及是否有特殊指令用于保存与进程关联的寄存器。
表示实数子集的系统,其中可表示数字之间的间隔不是固定的绝对常量。此类系统的特征包括基数、符号、有效位和指数(通常偏置)。数字的值是其有效位与基数的幂(未偏置指数)的有符号乘积。
二进制浮点算术的标准,由美国电气及电子工程师学会 (Institute of Electrical and Electronics Engineers, IEEE) 开发,1985 年出版,2008 年修订。
汇编语言代码片段,在内联传递 Sun Studio 编译器时,替换它所定义的函数调用。(例如)由数学库在内联模板文件 (libm.il) 中使用,以便从 C 程序访问三角函数的硬件实现和其他初等函数。
一个将运算约简为多个阶段的硬件功能,每个阶段(通常)用一个周期来完成。如果每个周期中可以发布新操作,将填充管道。如果管道中的指令之间没有相关性,则每个周期可以提供新结果。链接表示相关指令的流水线作业。如果相关指令无法链接,则在硬件不支持链接这些特定指令时,管道会停止。