古代《乐书》引用古人樵周的话说：“幽王之时，暴辛公善埙”。 《世本》认为暴辛公作埙。王子年《拾遗记》上说：”庖牺氏易土为埙”。这种认为埙乐器为个人首创的观点，尽管在早期年代历代相传，但总缺乏一些有力的依据。
按科学的观点，埙应当是先民们在长期生产劳动实践中逐步创造出来的乐器。早期雏形是狩猎用的石头（古有记载谓之“石流星”），由于石头上有自然形成的空腔或洞，当先民们用这样的石头掷向猎物时，空气流穿过石上的空腔，形成了哨音，这种哨音启发了古代先民制作乐器的灵感，早期的埙就是这样产生的。
埙是中国最原始的吹奏乐器之一，大多由泥土制成，圆形或椭圆形，有六孔（有八孔，九孔，十孔，双八度等，六孔埙市场上不常见），亦称“陶埙”。以陶制最为普通，也有石制和骨制等。据考古学家考证，埙产生于史前时代，距今上限7000年。埙的音色朴拙抱素独为地籁，乃是乐器中最接近道家天籁的。在世界原始艺术史中占有重要的地位。埙的起源于汉族先民的劳动生产活动有关，最初可能是先民们模仿鸟兽叫声而制作，用以诱捕猎物。后随社会进步而演化为单纯的乐器，并逐渐增加音孔，发展成可以吹奏曲调的旋律乐器。
据考证，埙在战国初就广泛应用于宫廷的祭奠活动中。秦汉以后，埙成了宫廷雅乐乐器大家族中重要的成员。在中国古代宫廷中，埙分为颂埙和雅埙。所谓雅埙，指体积大，在雅乐中应用；所谓颂埙，指体积小，常在雅乐之外的其他宫廷音乐中应用。埙体的外观式样历史流传下来的也很多：唐三彩陶埙，红陶刻花埙，怪兽埙，人面埙，绘龙埙等等。
最原始的埙没有音孔只有吹孔，随着社会的进步和演奏的需求，埙的音孔渐渐增多了。大约在四五千年前，埙由一个音孔发展到两个音孔，能吹三个音。进入奴隶社会以后，埙得到了进一步的发展，在甘肃玉门火烧沟出土的父系社会晚期至奴隶社会初期的埙，有三个音孔，能吹四个音。到公元前1000多年的晚商时期，埙发展到五个音孔，能吹六个音。到公元前700多年前的春秋时期，埙已有六个音孔，能吹出完整的五声音阶和七声音阶了。埙由一个音孔发展到六个音孔，经历了3000多年的漫长岁月。可见，人们对于音阶的认识是经过长期的探索和实践的。