纵观中国历史，历代封建王朝为维护统治，都十分重视建立发展军队。虽然各朝军队的名称和组织不同，但一般都由帝王控制和指挥，主要征募农民服役，通常区分为中央军、地方军和边防军。中央军由帝王直接统领，负责宿卫京城，战时扩编出征；地方军由地方政府管辖，负责驻防各地，并听从帝王调遣，参加征战；边防军负责戍守边境，防御外敌入侵。
秦朝统一后，国家建立了统一的军队。它由皇帝警卫部队、都城卫戍部队、边防部队和郡县地方部队四部分组成。如果爆发战争，也可能临时组建部队。秦朝军队以步兵为主，同时还有强大的骑兵和水师。秦始皇陵兵马俑的发现，证实了秦朝军队的强大。而史料上记载的秦代（公元前214年）屠睢率50万水军南攻百越，则说明了秦朝水师的发展。秦朝的步兵称材官，骑兵称骑士，水军称楼船士，车兵称轻车。
西汉主要作战对象是匈奴，为了取得战争胜利，国家十分注意骑兵建设，建立了健全的养马制度。汉朝初年，马匹很少，为此，汉朝颁布法令鼓励养马。景帝时，在西北边境地区设立36所牧马苑，用3万官奴养马30万匹。武帝时期，为准备对匈奴战争，更是大量养马，为卫青、霍去病取得对匈奴作战的胜利准备了雄厚的物质基础。西汉的地面部队有步兵、骑兵、车兵，水上部队有水军。步兵、骑兵是西汉军队的主力，车兵处在逐渐被淘汰的地位。
骑兵在唐朝的统一战争中起了重要作用，唐太宗李世民尤好骏马，著名的昭陵六骏石雕，就是为褒扬李世民曾经乘坐的六匹战马所立的赫赫战功而作。在唐初几次关键性战役中，骑兵都有上乘表现。唐中期以后，神策军在战争中发挥了重要作用。神策军以宦官为统帅，并由其完全控制。唐玄宗天宝十三年（754），唐朝为防止吐蕃进攻设置了一支戍边部队，称神策军。