因为显微硬度测试力小，压痕小，容易出现误差。影响显微硬度值准确性的因素很多，主要因素有以下几方面：
　　(1)试样制备。显微试样制备过程中，会因磨削使表面塑性变形引起加工硬化，这会对显微硬度值产生很大的影响(有时误差可达50%)，低载荷下更为明显。因此试样在制备过程中，要尽量减少表面变形层，特别对软材料，尽量采用电解抛光。
　　(2)加载的部位。压痕在被测晶粒上的部位及被测晶粒的厚度对显微硬度值均有影响。在选择测量对象时应选取较大截面的晶粒，因为较小截面的晶粒厚度可能较薄，测量结果可能会受晶界或相邻二相的影响。
　　(3)载荷。根据试样的实际情况，选择适当的荷载，在试样条件允许的情况下，尽量选择较大的载荷，以得到尽可能大的压痕，并且压痕大小要与晶粒大小成比例，尤其是在软基体上测硬质点时，被测硬质点的截面直径需要是压痕对角线长度的4倍，否则将可能得到不准确的测量数据。此外，测定脆性相时，髙载荷可能出现“压碎”现象，角上有裂纹的压痕表明载荷已超过材料的断裂强度，因而获得的硬度值是不准确的。
　　(4)压头。压头的几何形状会对硬度值准确性有影响。压头的四个三角形工作面应光滑、平整并有一定的粗糙度。在使用过程中压头受到损坏，如顶角磨损、表面出现裂纹、凹陷或压头上粘有某些其他物质，都会使压痕边缘粗糙和不规则，变大测量误差，影响测量结果。
　　(5)加载速度和保载时间。硬度定义中的载荷是指静态的含义，但实际上一切硬度试样中载荷都是动态的，是以一定的速度施加在试样上的，由于惯性的作用，加载机构会产生一个附加载荷，因此加载速度过快，会变大压痕，使显微硬度值降低。为了消除这个附加载荷的影响，在施加载荷时应尽可能以平稳、缓慢的速度进行。一般载荷越小，加载速度的影响越大，当载荷小于100g时，加载速度应为l-ZOjim/s。