1935年3月，国民政府正式颁布军衔制度，上将层级分为：特级上将（仅蒋介石1人）、一级上将、二级上将；另设有中将加上将衔（俗称“候补上将”，不属于正式二级上将）。

1935年，条例原定陆军二级上将定额20名，陆续增补；1949年后国民党迁台继续授予二级上将，分为大陆时期（1935–1949）、台湾时期（1950至今）两大阶段。

1935年4月3日 首批20人
1. 陈调元
2. 何成濬
3. 朱绍良
4. 刘峙
5. 顾祝同
6. 蒋鼎文
7. 韩复榘
8. 宋哲元
9. 刘镇华
10. 杨虎城
11. 商震
12. 傅作义
13. 徐永昌
14. 万福麟
15. 于学忠
16. 何键
17. 刘湘
18. 龙云
19. 徐源泉
20. 白崇禧

1936年增补2人
21. 程潜
22. 李烈钧