早在十九世纪人们就对声波在空气和其他材料中的传播进行了研究,但超声仪器的问世有赖于二十世纪初电子技术的进步,包括阴极射线管的发展。使用超声波检测材料内部结构的想法最早是在20世纪20年代开始得到探究,超声无损检测领域的第一个特定专利可以追溯到1931年。第一台实用的商业超声检测仪器,称为反射镜,由密歇根大学的Floyd Firestone教授于1940年发明并获得专利。第二次世界大战期间声呐的发展进一步推动了该领域技术的进步。在20世纪50年代,商业仪器开始大量出现。
这些早期的仪器主要是为超声探伤而开发,尽管它们也可用于厚度测量。20世纪60年代,开始出现了第一批为测量厚度而设计的更小、更便携的仪器,这些仪器以数字形式显示厚度,而不是通过示波器屏幕显示厚度。奥林巴斯的前身Panametrics于1973年推出的5221型仪器是第一台预设有多模式测量功能、可以测量多种材料和厚度,并可以通过开关设置声速校准的商用超声测厚仪。
在20世纪70年代,由电池供电、相对紧凑、针对各种检测应用而得到优化的仪器变得非常普遍,而且仪器也持续变得更小巧、更强大。20世纪80年代,测厚仪中引进了波形显示和内置数据记录功能,以协助操作人员更有效地进行测量。20世纪90年代,数字信号处理取代了模拟电路,提高了测量的稳定性和可重复性。最近,微处理器技术的进步将当今业已成熟、易于使用的微型仪器的性能提升到了新的水平。