精密度和分辨率的概念
根据测量的仪器误差，可设下列仪器参数：
精密度（Precision）：为仪器测量值的稳定程度（重复性能），由仪器的偶然误差决定，而与系统误差无关。偶然误差越小则精密度越高，可直接用偶然误差δ来表示仪器的精密度。
分辨率（resolution）：为仪器对测量值差异的分辨能力，也可以用偶然误差δ来表示。实际上，仪器的精密度和分辨率几乎是同意词。
准确度（corectness）:为仪器测量平均值与真值的接近程度。由仪器的系统误差决定。对于定期标定的仪器，仪器的准确度主要由标定的准确度决定，而与仪器标定相关的概念是仪器的线性。
精确度（accueacy）：为仪器精密度和准确度的综合评价。由总误差Δ+δ决定。
通常情况下，仪器标明的精度应该是指精确度，所以精度不如分辨率高。有时候人们也把精密度错误地简称精度，特别是使用标定型仪器时，不必考虑系统误差。对于数字型仪器，人们还常把AD转换后能显示的最后一位数称为仪器的分辨率，似乎所采用的AD位数越多则分辨率越高，这是有问题的，仪器显示的最后一位是否能作为仪器的分辨率，得看它在测量时是否稳定。另外，分辨率的概念还常用于图像类仪器中，可用最小的像素单元表示，实际上，在图像类仪器中，光学分辨率才是最基本的。
精度和分辨率对实验的影响
实验中要实现高精确度的测量是很难的。在农业、生态领域，这甚至是不可能的，而且也没必要。例如对环境CO2浓度的测量，达到1ppm的精确度是不可信的，用于标定红外CO2分析器的标准气就很难达到1ppm标准，更何况分析器自身的漂移影响以及环境本身的不稳定因素的影响。
许多实验要实现的实际上是高分辨测量，对准确度要求达到一般水平即可。例如在光合速率的测量实验中，对CO2浓度就要进行高分辨测量，一般都能达到0.1ppm的分辨率，从而在10%的误差范围内实现对几个ppm差值的测量。