马头琴的历史悠久，从唐宋时期拉弦乐器奚琴发展演变而来。成吉思汗时（1155-1227）已流传民间。据《马可波罗游记》载，12世纪鞑靼人（蒙古族前身）中流行一种二弦琴，可能是其前身。明清时期用于宫廷乐队。

马头琴，因琴头雕饰马头而得名。《清史稿》载："胡琴，刳桐为质，二弦，龙首，方柄。槽椭而下锐，冒以革，槽外设木如簪头似扣弦，龙首下为山口，凿空纳弦，绾以两轴，左右各一，以木系马尾八十一茎扎之"。可知，马头琴原来也有龙首。此早在《元史》卷《礼乐志》有载："胡琴制如火不思，卷颈，龙首二弦，用弓捩之，弓之弦为马尾。"