中国是较早开展户口清查并建立户籍管理制度的国家之一。户籍制度是国家治理体系中的重要组成部分，尽管户籍制度仅占国家统治版图中的一小块，但有着足以撼动整个“大楼”的重要性。国家只有全面、精确掌握了人口数量、分布情况、职业状况等，才能制定出符合实际的国家政策。
先秦时期，“春秋五霸”之一的齐桓公任用管仲为相，在齐国进行大刀阔斧的改革。在众多改革事项中，户籍制度的改革尤为重要。为了加强对地方的管理，管仲将都城里分为21乡，工占6乡，士占15乡；都城外分为五属，属下设县，县下设乡，乡下设卒，卒下设邑，邑下是家，并要求家家之间“行同和”“死同哀”。此外，管仲还要求衙门对户籍内农民每月领取多少口粮，掌握技能的男女人数，以及鳏夫、寡妇、流民等都一一详细记录在案。
战国时期，诸侯纷争，群雄逐鹿，中国社会进入了历史上十分重要的大变革时期，封建生产关系逐步取代奴隶制生产关系，整个国家的政治格局发生了根本性变化。这一时期，户籍主要分为两类：一类是普通平民的户籍，一类是特殊阶层的户籍。在特殊阶层的户籍中，又可细分为两类，一是特权阶级的户籍，包括宗室籍、宦官籍等；另一类则是底层的贱籍，包括赘婿之籍、刑徒之籍等。
商鞅在秦国实施变法时，就对秦国的户籍制度进行了重大改革。按照规定，凡秦国之民，不论男女老幼均要登记户口。出生时要做出生登记，死亡时则要注销户口。秦国境内的平民如若迁往他处，也需去官府登记。倘若伪造或隐瞒登记事项，则要罚两副盔甲。不久，商鞅又在秦国极力推行什伍连坐制，这一制度就是建立在严格的户籍管理制度之上的。
不仅如此，秦国的军功爵制度和名田制度也都与户籍制度密不可分。在秦国，没有户口就意味着“一无所有”，而且这个“一无所有”可谓是彻底的“一无所有”。因为按照秦国的律法，凡未被登记在册的户籍人口，皆被视为脱籍亡户者，也就意味着丧失了秦国人所应具有的一切权益。
秦统一六国之后，在郡县制的基础上建立了更为稳定的户籍管理制度。当时，官府废除了分封制，并在各郡县设立郡守，专司民事，要求“十户为一里，十里为一亭，十亭为一乡，若干乡为一县”，使全国的人口像编席织麻一样组织起来，继而建立了从基层到中央的系统性户籍登记管理制度。
秦末，刘邦起兵攻入秦都咸阳时，谋士萧何既不贪财，也不抢夺美女，而是星夜驰往秦丞相府（和）御史府，派兵悉数清点全国的户籍、地形、法令等图书档案，然后分门别类、登记造册，以待日后查用。萧何此举为刘邦掌控天下粮源、兵源以及各处关隘要塞奠定了坚实的基础，从而为刘邦战胜项羽、一统天下提供了重要保障。
汉代在改良秦代户籍制度的基础上，创设了“编户齐民”之法，言下之意就是将汉朝统治疆域内的人口，除世家贵族和奴婢外，全部编入统一的户籍之中。据《汉书·地理》记载，西汉末年共有居民1223.3万户，人口多达5559.4万人。此外，汉代还编纂有《户律》，并就户口登记、户籍保管、立户原则和田宅分割与财产继承等事项逐一详载于案，对后世户籍制度的管理产生了深远影响。
西汉时就规定，每年八月，无论男女老幼，都要到官府接受户口登记，方可视其为“国人”。
东汉末年，群雄争霸，天下大乱，统一的户籍制度也随之分崩离析。三国至魏晋南北朝时期是我国历史上户籍脱漏最为严重的时期。一方面，中央政府日益羸弱，无暇对全国户籍人口进行普查和登记；另一方面，长期的攻伐与征战，使各地军阀将人口视为个人财产，借以征兵征粮，致使百姓大多隐匿人口实情。
西晋统一全国时，政府开始重新登记人口，并确立了“黄籍”制度。所谓黄籍，指的就是正式户籍。《晋书》记载：“郡国诸户口，黄籍，籍皆用一尺二寸札，已在官役载名。”“札”即木牍，又名“黄籍”，即用黄色染料处理过的木牍，以防虫蛀。此后，人们又流行用黄纸替代木牍，也就是用黄檗处理过的纸，以驱避蠹虫。
西晋末年，五胡乱华，天下大乱，不少士家大族及百姓纷纷“衣冠南渡”，于是在东晋初年又出现了“白籍”之法。
缘于北方士家大族和流民不断南迁，东晋官府不得不设置侨州郡县，以安置北来之民。这些北来之民在江南各地用原籍地名登记临时户籍，因其用白纸书写，故称之为“白籍”。为了安抚北来之民，官府规定凡白籍侨民，皆可享受免调役的优待。不久，随着东晋官府赋税入不敷出，又不得不实行“土断”。土断指的是将侨州郡县之民正式编入当地户籍，并取消之前的免役优待。
囿于历次土断的不彻底以及流民的持续南下，虽经土断，但白籍户依旧长期存在，直至南朝后期方才消失。
与此同时，北朝为了防止人口遁逸，以致户籍混乱，北魏孝文帝开始推行“三长制”，即五家立一邻长，五邻立一里长，五里立一党长。三长的职责是检查户口、监督耕作、征收租调、征发徭役和兵役。同时，三长享有一定的优待，可以免除一人至三人的官役。“三长制”的实施，加强了中央对地方的户籍控制，增加了政府的财政税收。