不同的表面光洁度在洛氏硬度测试时，表现出不同的影响。表面光洁度愈低，高硬度测试时其硬度愈高，反之硬度越低，有刀痕的粗糙表面，淬火时首先*快冷却，或很坚硬的表层，硬度值就高。反之，调质件高温回火时，有刀痕的表层组织先转变，抗回火的能力小，硬度值就低。洛氏硬度计在测试表面光洁度Δ7以下的零件时，必须使用废砂轮精磨，再用锉刀锉磨光滑，或用细的手砂轮磨光，然后揩擦干净。
洛氏硬度计的热处理零件表面有盐渍、沙子等物，当加负荷时，零件会产生滑移，若有油腻存在，金刚头压入时起润滑作用，减小磨擦，增加压深。这两项原因使所测硬度值偏低。零件测试的部位氧化皮蔬松层薄的硬度值降低，氧化皮致密层厚的硬度值增高。对欲测硬度的零件必须去除氧化皮，揩擦干净，不得有脏物。
斜面（或锥度）、球面及圆柱体零件对硬度测试的误差较平面大。当压头压入这种零件表面时，压入处四周的抗力比平面小，甚至有偏离、滑移的现象，压深增大，硬度降低。曲率半径愈小，斜度愈大，硬度数值的降低愈显著。金刚石压头也容易损坏。对这类零件要设计工作台，使工作台和压头同心。
