我军建军之初，因为力量弱小，没有实行军衔制的条件，新中国成立后，1955年9月27日下午5时，在北京怀仁堂隆重举行授予中华人民共和国元帅军衔及授予勋章典礼：
毛泽东主席颁发命令状，授予朱德、彭德怀、林彪、刘伯承、贺龙、陈毅、罗荣桓、徐向前、聂荣臻、叶剑英中华人民共和国元帅军衔。
国务院总理周恩来发布命令状，授予粟裕、黄克诚、谭政、肖劲光、王树声、陈赓、罗瑞卿、许光达、徐海东、张云逸大将军衔。
中国人民解放军著名的“十大元帅”与“十大大将”由此确立。
不过我军的的一些高级将领，中国共产党建立武装之前，在第一次国共合作时期，有过在北洋政府或国民党政府中被授予将军军衔的经历。
授陆军中将加上将军衔的有：
朱德，任国民革命军第二十军党代表兼代理政治部主任，
刘伯承，任国民革命军新编第15军军长，
贺龙，任国民革命军暂编第20军军长。
授陆军中将军衔的有：叶剑英，任国民革命军第四军新编第2师师长，第四军参谋长，
授陆军少将军衔的有：肖劲光，任国民革命军第2军第6师党代表。
从1927年八一南昌起义后，他们放弃国民党的军衔和高官厚禄，脱下将校呢军服，换上粗布军装，投身到革命阵营，朱德就有一副对联，生动描述了红军将士同甘共苦的情景：“白军中，将校尉薪饷各有不同，红军里，官兵夫待遇完全平等。”
这样，一直到1937年七七事变之前，10年间，中国共产党领导的工农红军始终都没有军衔，因为一方面要进行艰苦频繁的战争，另一方面物质和文化基础相对薄弱，没有条件考虑这个问题。毛主席在《井冈山的斗争》一文中曾指出，红军从军长到伙夫，除粮食外，一律吃五分钱的伙食，发零用钱，两角即一律两角，四角即一律四角。整个红军时期，没有划分明确的等级观念，官兵一切待遇基本一致。
抗日战争爆发后，由于大敌当前，国共进行第二次合作，中国工农红军改编为八路军和新四军，纳入国民革命军序列，部队编制，机构设置，人员配置和服装等，基本都与国民党军队相同，不过国民党一直把共产党当做异己，为了限制八路军新四军的发展，只给八路军3个师的编制，新四军4个支队的编制，但在对待八路军新四军将领的军衔问题上却很大方，1937年授的军衔原则上不低于那些将领在1927年拥有的军衔，以示尊重这些将领的历史资历。1937年9月，被授予国民革命军将军军衔的我军高级将领有：
上将：国民革命军第二战区副司令长官兼第十八集团军总司令朱德。
中将：国民革命军第十八集团军副总司令彭德怀，集团军参谋长叶剑英，第115师师长林彪，第120师师长贺龙，第129师师长刘伯承，第120师副师长萧克等6人。
少将：国民革命军第十八集团军第115师副师长聂荣臻，第115师344旅旅长徐海东，副旅长黄克诚。第120师参谋长周士第，358旅副旅长张宗逊，359旅旅长陈伯钧，副旅长王震，第129师副师长徐向前，386旅旅长陈赓等13人。
此外，1938年国民革命军新编第四军军长叶挺被授予中将军衔，副军长项英被授予少将军衔。
后来抗战胜利后，全面内战爆发，这些人的军衔也就自然取消。
