军衔制度在中国已有近百年历史。20世纪初，晚清军队引入世界通用的军衔制度。以后，中华民国南京临时政府、北洋政府和国民党政府几个时期实行的军衔制度，基本上都是在清末军衔制度基础上的发展和沿革。

清朝在灭亡前，用了六年的时间才形成了一个完整的军衔体系。

当时，清王朝的腐败无能和清军战斗力的脆弱，在面对列强的战争中已暴露无遗。一些大臣、督抚纷纷上书，条陈时务，要求清廷迅速建立一支新式武装。清朝皇室也痛感中国兵制过于陈旧，已不合时宜。为了维持自己摇摇欲坠的统治，必须改革兵制。于是采纳众议，决定效法西洋，训练一支新式陆军，以取代旧式绿营军队。1901年（光绪二十七年），清政府任命袁世凯为直隶总督兼北洋大臣，负责编练新军。

清朝的新军，在编制、装备和操法上，完全仿效西方，而在人事制度上，基本上还是采用过去绿营制的一套老办法。在编练新军过程中，遇到许多矛盾，对推行新制障碍重重。因此，清政府进一步采取改革措施，继续在所有方面进行改革，其中一个很重要的方面，就是移植西欧式军衔制，试图通过军衔制度来改变当时“重文轻武”的流弊，振奋士气，提高军队的社会地位，改变官职与官衔之间严重失调的状况；改革官兵制服与识别标志，既整肃军容，亦适应操战；实行国际上大体统一的衔级制度，以利于国际交往。

清政府从1904年开始，通过颁布实施一系列的章程制度，逐步推行西欧式军衔制。1904年12月，清政府练兵处会同兵部向朝廷奏准《另定新军官制事宜》，建议“参仿八旗官员之秩序，旁采各国军营之规章”，按照西方军官军衔的三等九级制，取代旧的官阶制度，建立新军的阶位品级体制，军官“区为三等，析为九级”。

1905年3月，练兵处、兵部设计出军官军服和军衔标志的第一个图案式样。8月，练兵处提出军官授衔的标准、条件、程序和要求。12月经清政府批准，陆军军官开始按新官制评定等级，从而形成了我国最早的军衔等级：

上等第一级，正都统；

上等第二级，副都统；

上等第三级，协都统；

中等第一级，正参领；

中等第二级，副参领；

中等第三级，协参领；

次等第一级，正军校；

次等第二级，副军校；

次等第三级，协军校；

1909年11月，军咨处又奏请朝廷在军阶第一等第一级内正都统之上增设“大将军”、“将军”两衔，与正都统同为上等第一级；设立军士衔三级，即上士、中士、下士；在军官和军士之间增设“额外军官”衔一级。

1910年12月，陆军部对军衔授予及晋升年限、军官职务任免、最高服役年龄、军官考绩办法等，都作了详尽规定。如规定各级官佐的最高服役年龄为：正都统，65岁；副都统，62岁；协都统，58岁；正参领，55岁；副参领，52岁；协参领，50岁；正军校，48岁；副军校45岁；协军校45岁。又规定，凡正都统荣获大将军、将军称号者，不受上述年龄限制。这一章程可视为中国历史上第一部军官服役条例。