熟读《三国演义》的朋友应该记得，关羽向曹操介绍三弟张飞之勇猛，“于百万军中取上将之头，如探囊取物耳”操大惊，回顾左右曰："今后如遇张翼德，不可轻敌。"这里有人就疑问了，难道在古代，我国就有了上将这一军衔？其实，这是一种误读。汉语“上将”一词源于古时的“上将军”，它并不是军衔的等级，而是一种官职名称。
熟读《三国演义》的朋友应该记得，关羽向曹操介绍三弟张飞之勇猛，“于百万军中取上将之头，如探囊取物耳”操大惊，回顾左右曰："今后如遇张翼德，不可轻敌。"这里有人就疑问了，难道在古代，我国就有了上将这一军衔？
其实，这是一种误读。汉语“上将”一词源于古时的“上将军”，它并不是军衔的等级，而是一种官职名称。最早起源于春秋时期，诸侯国为了扩大势力范围，不断扩充兵力，当时的大国诸候常常拥有三军以上的兵力。《周礼·夏官·司马》云：“凡制军，万有二千五百人为军。王六军，大国三军，次国二军，小国一军。”
周天子规定的编制诸侯只能有三军，设三卿掌管。于是，就把扩充军的统帅称作“将军”。这里的“将”当动词用，即统领一军的意思。以后军队数量不断扩大将军也就越来越多了。因此，在诸将军中选拔出“上将军”或“大将军”来全盘指挥，上将军即产生于此。
以后历朝大都沿用，如战国时燕国的乐毅、齐国的田单等都被封为上将军；秦末，楚怀王曾先后拜宋义、项羽为上将军。三国魏晋时只作为尊称，唐宋时期上将军官位复原。金、元时上将军为武散官（三品），到明朝时废止上将军。以上就是上将军的大致发展脉络。
上将军还有许多名号，如金国的上将军有虎卫上将军、金吾卫上将军、骠骑卫上将军、奉国上将军、辅国上将军、镇国上将军等六种，到了元朝又因袭之。此外古时的上将还是对高级将领的一种尊称，如刘备曾封关羽、张飞、赵云、马超、黄忠为“五虎上将”。
将上将作为军衔的一个等级，则是实行军衔制以后的事情。1905年中国军队开始仿照西方列强，移植军衔制，军官军衔为三等九级。其中，上等第一级称“正都统”，即相当于现在的上将。1911年辛亥革命成功后，南京临时政府基本沿用了晚清军衔体系，只是修改了军衔称谓，将上等第一级改为“大将校”；不久，又改称“大将军”。
1912年8月，中华民国北京政府（北洋政府）公布了《陆军官佐士兵等级表》，军官仍然为三等九级，其中上等第一级改称“上将”，其对应的职务为陆军总长、军长。上将作为军衔的级称谓，实始于此。这以后，这一称谓一直沿用下来。
北洋政府时期，一些高级将领除了上将军衔之外，还有“上将军”的封号，如萨镇冰的“肃威上将军”、冯国璋的“宣武上将军”、曹锟的“虎威上将军”等。这里的上将军不是一个军衔等级，而是相当于一种位的荣誉称号，凡是被封上将军封号的，一般都是先被投予上将军衔。
但不是所有上将都能获得上将军称号，北洋政府时期被封为上将军的人不多，总共只有20位左右，通常都是权势极大的人物。
