相传，约4000年前的夏朝开始有扫帚，由少康（杜康）发明。东汉许慎的《说文解字》有云：“古者少康初作箕、帚、秫酒。”据说，少康有一次看到一只受伤的野鸡爬行，在野鸡身体拖过的地方灰尘就没有了，受其启发，少康便抓来几只野鸡，拔下毛来制成了天下第一把扫帚，这也是鸡毛掸子的由来。在扫地过程中，少康又发现鸡毛扫帚太软，扫不干净，同时也不耐磨，后来改以竹条、草等为原料，从此有了耐用的扫帚。
事实上，扫帚的出现应该更早一些。当远古人類有了爱干净的生活习惯后，很自然地会拿一些带有枝叶的植物做打扫居所的工具。距今六七千年的仰韶文化遗址中就有大量的房屋遗址，史学家认为，那时候就已经有了扫帚，比少康生活的年代至少要早2000年。人们之所以把扫帚的发明权归在少康名下，可能是因为他发明了用秫酿酒的方法，秫秸（高粱秸）是制作扫帚的材料，故以此推及。