西周以前文官武将并没有分开。春秋时期周王朝的王权下移，各诸侯均建立了常备军，据《史记》《国语》记载，国君是军队最高统帅，天子常亲自率兵作战，文官武将率兵征伐的也不少，这时的文官武将也并没有分开。
战国时期，各国新兴地主阶级执政后，由于以往国家上层官员文武不分，卿、大夫等奴隶主贵族平时管理政务，战时统兵作战，军政权力过于集中，造成国君丧失大权的弊端，于是采取文武分职，以相、将为百官之长，建立了封建君主专制政权机构。战国时期，战争规模扩大，军队数量不断增加，军队指挥成为一种艺术。统帅军队的指挥官必须掌握专门的军事知识，富有管理、训练和指挥作战的经验。
战国时期还取消分封制，按军功授爵，从军中选将帅。吴起、孙膑、乐毅、白起、廉颇等名将，正是遵循这个原则选拔出来的。这时，文官只在朝中执掌政务，不再率领军队出征。文官武将分开始于战国，并一直延续至今。