1937 年“七七事變”后，王耀武的 51 師從漢中調(diào)往上海，參加著名的“八·一三”抗戰(zhàn)。51 師堅守在吳淞口附近以羅店為中心的陣地，阻止日軍從海上登陸，打破日軍從川沙登陸經(jīng)羅店直趨嘉定，并切斷京滬線的企圖，成為整個戰(zhàn)局的關(guān)鍵。日軍發(fā)揮海陸空協(xié)同作戰(zhàn)的優(yōu)勢，向羅店發(fā)動多次猛攻，均被 51師官兵擊退。王耀武巧妙地運(yùn)用夜戰(zhàn)，派出部隊強(qiáng)襲，先后擊斃日軍聯(lián)隊隊長竹田和炮兵聯(lián)隊隊長莫森，受到總部通報表揚(yáng)。戰(zhàn)后將51 師與 58 師合編成立 74 軍，以俞濟(jì)時為軍長，之后 74 軍成為國民黨抗日勁旅，王耀武成為 74 軍的一員主將。

1938 年 7 月，武漢會戰(zhàn)的前奏萬家?guī)X戰(zhàn)役，日本人試圖逼近武漢，把 106 師團(tuán)送進(jìn)了包圍圈。但是日本人的戰(zhàn)斗力和裝備都強(qiáng)于中國軍隊，因此為了解救這個 106 師團(tuán)，避免它成為第一個在中國戰(zhàn)場被全殲的師團(tuán)，日本人也下了血本。反擊的時候，74 軍負(fù)責(zé)主攻。第一天攻擊，就讓日本人傷亡慘重，殘部死守張古山。這個山山勢很險，中國軍隊屢攻不下。俞濟(jì)時告訴王耀武：“張古山我不管了！反正兩天后，我要上張古山向薛岳(戰(zhàn)役指揮官)報告戰(zhàn)況！”旅長張靈甫提議從絕壁上去，并且成功奪取了張古山主陣地。這一戰(zhàn)，日本人承認(rèn)的 106 師團(tuán)死傷就有 3000 人以上。74軍一舉成名。此戰(zhàn)后，王耀武成為 74 軍副軍長，依然兼任 51 師師長。1939 年 6 月，蔣介石親自召見這位黃埔三期的名將，提升他為 74軍軍長(俞濟(jì)時升任第 10 集團(tuán)軍副總司令)。

1941年春，王耀武率部參加了著名的江西上高會戰(zhàn)。上高縣城為贛北重鎮(zhèn)，日軍侵占武漢后，贛北成了江南防線的第一線。日軍企圖摧毀贛江、撫河兩條流域間的中國軍隊，制定了“鄱陽掃蕩計劃”，他們以兩個師團(tuán)與一個混成旅團(tuán)約5萬余人的兵力侵犯上高縣城。上高會戰(zhàn)至4月9日結(jié)束，歷時25天。此役中國軍隊斃傷日軍少將指揮官巖永、大佐聯(lián)隊長濱田以下數(shù)千人，軍馬2800余匹，擊落飛機(jī)一架，俘虜日軍百余人，繳獲山炮、追擊炮10門及步槍千余支。上高會戰(zhàn)是一次頗為成功的殲滅戰(zhàn)，何應(yīng)欽稱之為抗戰(zhàn)以來“最精彩之戰(zhàn)”，此役以 74軍戰(zhàn)績最為卓著，戰(zhàn)后74軍被授軍中最高獎品———飛虎旗，王耀武本人亦受軍隊最高勛章。

1943 年4月參加鄂西會戰(zhàn)，會戰(zhàn)結(jié)束后，王耀武升任第29集團(tuán)軍副總司令，仍兼74軍軍長。同年11月，日軍糾集7個師團(tuán)約10萬人進(jìn)攻常德，王耀武率74軍參加常德會戰(zhàn)。他率主力在常德東北地區(qū)與敵激戰(zhàn)，常德被日軍陸、空軍及坦克優(yōu)勢火力猛攻16天，全城夷為平地。堅守常德城的部隊是74軍57師，師長余程萬。8000人只有100人生還，余皆戰(zhàn)死。王耀武率51師反擊，在友軍的配合下，經(jīng)過6天激戰(zhàn)，終于收復(fù)了常德城。這一戰(zhàn)深得蔣介石的贊賞，稱贊王耀武善于帶兵，有指揮才能。戰(zhàn)后蔣介石在南岳召見他，備加獎勵。1944年2月，蔣介石提升王耀武為24集團(tuán)軍總司令，下轄第73、74、79、100軍4個軍10萬人。

一年之后，第24集團(tuán)軍改編成第4方面軍。王耀武以一個黃埔三期的淺資榮登第4方面軍司令官寶座，與盧漢、張發(fā)奎、湯恩伯等老將平起平坐，其破格越升之速，在軍界殊為罕見，令同輩望塵莫及。在第4方面軍任上，王耀武指揮了對日的最后一戰(zhàn)———芷江戰(zhàn)役。此時王耀武率18軍、73軍、74軍、100軍及湖南省吳奇?zhèn)ニ时０膊筷牴布s30萬兵力迎擊敵人，王耀武部則以逸待勞，給敵人以迎頭痛擊，初戰(zhàn)即獲勝利，打死打傷日軍5000 余人。

戰(zhàn)役歷時近兩月，日軍多次進(jìn)攻均被擊退，后來中國軍隊從防御轉(zhuǎn)入進(jìn)攻，日軍狼奔豕突，潰不成軍。戰(zhàn)役結(jié)束后，計傷斃敵28174 人，俘敵軍官17人，士兵 230人，戰(zhàn)馬347匹，火炮24門，機(jī)槍100挺，步槍1300余支，其他戰(zhàn)利品20余噸，湘西會戰(zhàn)雪峰山戰(zhàn)役的勝利是王耀武的得意之作。正是這一戰(zhàn)役的成功，不久他被選為國民黨中央執(zhí)行委員，這是一般黃埔同學(xué)望塵莫及的。當(dāng)時他年僅40歲。

1945年9月初，王耀武作為長衡地區(qū)受降長官，接過了日本第20軍指揮官坂西一良中將呈上的指揮刀。這是王耀武最輝煌的時候，他的74軍被譽(yù)為“抗日鐵軍”。