同剛到廣州的時候相比，加倫對蔣介石的看法有所改變，他發現蔣介石缺乏軍事指揮才能。加倫在一次戰斗結束后這樣寫道：“敵人雖然退卻了，但是就原來的作戰意圖而言，這與其說是勝利，不如說是失利。”原因在于：(1)戰場上缺乏指揮。“此類錯誤蔣介石將軍一犯再犯。他僅僅指明最初的攻擊方向，卻從來不指揮戰斗，有時竟躲在大后方，橫加干涉，致使戰斗停止……”3月13日，加倫來到蔣介石的司令部，詢問教導一團、二團及各團獨立隊的部署地點，蔣介石竟然答不上來。“顯而易見，部隊完全失去了指揮。”

1924年10月，廣州商團發動叛亂。為了對付商團，孫中山下令組建革命軍事委員會。10月9日，鮑羅廷趕往黃埔軍校同蔣介石商討該委員會的人選問題，并且明確表示不同意汪精衛、胡漢民參加。但是，蔣介石不贊成，認為鮑羅廷這樣做是“不明本黨內情”。如果汪、胡二人不參加革命軍事委員會雖然可以免除一些麻煩，但這樣以來“麻煩更多”。蔣介石在當天給孫中山的信中堅持要把汪精衛、胡漢民列入軍事委員會的名單，否則“不如暫緩組織”。

對于蔣介石的建議，孫中山沒有采納。他在回信中表示，胡漢民、汪精衛不參加革命軍事委員會“未嘗不可”。他解釋說，今日革命非學俄國不可，而“漢民已失此信仰，當然不能加入，于事乃為有濟，若必加入，反多妨礙。”至于汪精衛，本來也是“非俄派革命，不加入也可”。他在信中還說：“我黨今后之革命，非以俄為師斷無成就，而漢民、精衛恐不能降心相從”。

由此看來，孫中山在用人方面很大程度以是否贊成他的聯俄政策為標準。這一點對蔣介石不會沒有觸動。從莫斯科回來后，他曾反對這項政策，結果連國民黨第一次代表大會的代表資格都沒有撈到，更不用說黨內職務了。

10月11日，革命軍事委員會成立，蔣介石成為了全權委員。盡管孫中山不贊成汪精衛參加軍事委員會，但在當天他特許的任命名單里仍然有汪精衛。孫中山、許崇智、廖仲愷、陳友仁、譚平山也是委員會的成員。10月14日，又在軍事委員會內設立了一個常務委員會，由蔣介石、廖仲愷、鮑羅廷三人組成，負責指揮平息商團叛亂的戰斗。當天，孫中山下達了平定商團叛亂的手令，要求將參加平息叛亂的所有軍隊統統歸蔣介石指揮。

黃埔軍校800名學生參加了這次戰斗，并為此成立了機槍隊，配置了兩個炮兵連。10月14日、15日，廣州工團軍、農民自衛軍、工人糾察隊、黃埔軍校學生，發動了對商團據點的進攻，一舉平息了叛亂。

這一勝利，使國民黨、共產黨和莫斯科三方都感到振奮，并且“激起了人們對黃埔軍校的極大熱情”。黃埔軍校的學生被當成了“新軍的首批代表”，“軍校的政治影響已經超出了黃埔島的范圍，成了影響廣東一切政治事件的強有力的因素”。此后，在廣州，任何一次大的政治活動、游行、群眾集會，都少不了黃埔軍校的學生。就連工人、青年學生召開大會，也有黃埔學生參加。軍校在政治上的日益活躍，使蔣介石的威望得以提高。

平定商團叛亂的勝利，也使蔣介石避免了孫中山的責怪。此前，孫中山曾命令蔣介石將黃埔軍校的所有武器彈藥送往韶關。但是，蔣介石在蘇聯顧問的勸說下，“認識到孫的北上犯了大忌”，因此沒有執行孫中山的命令。兩天之后，孫中山又命令蔣介石率部加入他的北伐行列，蔣介石仍然沒有執行。10月10日，孫中山再次命令蔣介石到前線去，蔣介石又一次拒絕了。孫中山雖然對蔣介石沒有執行他的命令而感到惱火，但“他明白勝利者是不應受到指責的”。

10月底，加倫以孫中山軍事總顧問的身份抵達廣州。加倫是一位傳奇式的英雄，1916年加入布爾什維克。蘇聯內戰時期很多富有傳奇色彩的戰斗都同加倫的名字聯系在一起。在加倫的指揮下，蘇聯紅軍游擊隊在哥薩克白匪軍的后方堅持了40多天。1918年9月，加倫被蘇聯政府授予紅旗勛章。1921年，加倫擔任蘇聯遠東軍總司令、遠東共和國軍事部長、陸軍部長。1922年，他出任彼得格勒第一軍團司令。

加倫到達廣州不久，孫中山應馮玉祥的邀請離開廣州北上。胡漢民代理大元帥職務，但他不懂軍事，也沒有軍隊。11月15日，加倫以軍務院院長的身份擔任許崇智的軍事顧問。蔣介石是許崇智的參謀長。

此值廣州商團叛亂剛剛平息，黃埔軍校的威信隨之而上升。加倫到廣州后很快就發現，“軍校是名副其實的”。畢業于該校的軍官有政治修養，而且“理論和業務素質也高于其他軍校的學生”。他對黃埔軍校的演習和到學校來學習的學員“都有好的印象”。加倫由此得出結論：“這所軍校堪稱其他軍校的榜樣”。

毫無疑問，作為黃埔軍校的校長，蔣介石最初也給加倫留下了很好的印象。加倫到廣州不久，宋子文在一次談話中問起他對蔣介石的印象如何。加倫認為蔣介石是一個“能干的將領”。他甚至相信，“蔣介石將軍組建一個師和一所軍校如能成功的話，那將開創廣東的新時期，對付范石生也就不在話下了。”

結果，加倫在廣州眾多的軍事將領當中，尤其是在許崇智同蔣介石的對比中，挑選了地位較低的蔣介石，給予特別的扶助。他在一份報告中提出，應全力以赴使蔣介石的軍隊“具備良好的軍政素質”，而且，“對黃埔軍校亦給予同樣的關注”。

在加倫和蔣介石的共同主持下，將莫斯科運來的第一批武器，加上平定商團的戰利品組建了黃莆軍校教導第一團、第二團，蔣介石的親信何應欽、王柏嶺分別擔任了兩個團的團長。

另外，加倫還幫助蔣介石解決了一個頗為棘手的問題，即黃埔軍校的經費問題。他曾問過在廣州的蘇聯顧問，學校每個學員的給養是多少，顧問們卻答不上來。他告訴這些顧問：黃埔軍校成立時，孫中山既沒有經費，也沒有槍炮。現在擴大軍校規模的問題提出來了，在擴大軍校時需要補充必需的經費。

黃埔軍校大部分經費是莫斯科提供的，每月為10萬粵元，但10月份只給了8.4萬元。加倫同廖仲愷協商后，將所欠部分很快補上了，而且還增加了4.7萬元。

鎮壓商團叛亂之后，廣東政府只控制了全省三分之一的地區，所依靠的軍隊也不統一，但孫中山仍堅持舉行北伐。加倫在分析形勢后指出，孫中山前幾次北伐失敗的原因，與其說是在前線遇到抵抗，倒不如說是后方遭到進攻。“經驗表明，除非有鞏固的后方(廣東)以及各鄰省出現有利于北伐的形勢，北伐才能成功。”但目前這兩個條件一個也不具備，因此，“北伐的問題只有暫時擱置起來，先解決國民黨牢牢控制廣東和肅清陳炯明的問題。”加倫預計，陳炯明遲早會向廣州發動進攻，而且不會遲于1925年1月。所以，只要軍事委員會舉行會議，加倫就不厭其煩地把東線問題提到日程上來。

恰在這時，不斷傳來陳炯明準備進攻廣州的消息。有鑒于此，在軍事委員會最初召開的幾次會議上，加倫主張保衛廣州和討伐陳炯明，但劉震寰、楊西閔借口西線戰局惡化，不贊成討伐陳炯明。加倫經過一個半月的說服，終于使孫中山下定了討伐陳炯明的決心。

2月1日，東征討伐陳炯明的戰斗開始了。加倫對在黃埔軍校基礎上組建起來的部隊“寄于特別希望”，把他們當作“骨干力量”，為其配備了強大的顧問陣容，其中包括斯捷潘諾夫將軍、切列潘諾夫將軍、別夏斯特諾夫將軍、尼庫林上校和帕羅上校。加倫對顧問們說：“我們的全部希望寄托在粵軍上，尤其寄托在黃埔軍校的教導團上。”所以，他要求顧問們發揮“特別重要”的作用，“以滿腔的革命熱情施展軍事藝術”。2月3日，由黃埔軍校的兩個教導團和第十六獨立步兵團組成的南路軍，在蔣介石的指揮下，向東莞發起進攻。隨后，又奉命向淡水進軍，于15日占領該城，俘敵700多人，繳獲1000支步槍和6挺機槍。

然而，在隨后的一場作戰中蔣介石的表現卻使蘇聯顧問感到不悅。3月初，陳炯明所屬林虎部集結于興寧地區，伺機進攻河婆。蔣介石判斷，林虎部向河婆、海豐推進不過是一種示威，他們的真正目標是湯坑和揭陽。

但情況很快就證實，蔣介石的判斷有誤，林虎所部確實準備向河婆進攻而不是向湯坑推進。但蔣介石固執己見，并且阻撓部隊執行蘇聯顧問的建議。他還向加倫提出，只需派黃埔軍校或者第七旅去河婆。在蔣介石的影響下，許崇智發生動搖，沒有將部隊派往河婆，而是將黃埔軍校的兩個連留在揭陽。加倫費了很大力氣才說服了許崇智和蔣介石。

3月13日，黃埔軍校第一團本應從棉湖向馬路挺進。可是，團長何應欽沒有按時率部出發，說要等候蔣介石的命令。在蘇聯顧問的督促下，他才勉強同意。

當黃埔軍校第一團向敵人發起進攻時，按事先約定，第二團應派一個營負責掩護，但王柏齡遲遲沒有派出掩護部隊，致使第一團遭受敵人八個團9000多人的圍攻而陷入困境。而且，這天早晨，第二團比第一團又晚出發三小時。在斯捷潘諾夫的批評下，蔣介石連忙命令遠在幾公里外的第二團團長王柏齡來見他，結果又延誤了一個多小時，直到上午9時第二團才向指定地點推進。

一個小時之后，據第二團報告，沿途沒有發現敵人。蔣介石由此判斷，敵軍不在西邊而是在北邊。于是，他建議蘇聯顧問將黃埔軍校第一團、第七旅調往北邊的五經。斯捷潘諾夫沒有同意。不久，從第一團傳來消息，在鯉湖以北發現敵情，該團準備向敵人發起進攻。斯捷潘諾夫建議第二團攻擊敵人的后方，以支援第一團。蔣介石同意了，并下達了命令。關于這個命令，10多年后切列潘諾夫從團長王柏齡那里得知，原來蔣介石下達的根本就不是斯捷潘諾夫的進攻命令，而是向北轉移的指令。

本來，蘇聯顧問在3月13日那天就已經給敵人設置了一個陷阱。如果“不是蔣介石耽擱了二團的行軍，這個陷阱一定會使敵人陷得死死的。”蘇聯顧問卻發現，這位武夫已“不止一次地用'金橋'搭救敵人”。蔣介石同他的司令部一直駐扎在遠離前線的后方，“整個戰役中他沒有直接領導過一次戰斗，卻經常在戰役中進行干涉，使戰斗中斷。”

關于這場戰斗，聶榮臻事后說，教導一團打了一整天，連加倫將軍等俄國顧問都投入了戰斗。終于一個接一個地沖破了林虎所部的陣地，迫使敵人在黃昏時向興寧、五華退卻。但第一團也打得筋疲力盡，傷亡300多人，連排級干部多數犧牲，剩下的也是些弱卒殘兵，連站的力氣都沒有了。這時，加倫來到陣地振臂高呼：“教導第一團萬歲！”正當加倫喊話的時候，蔣介石帶著他的第二團匆匆趕到，頗有些過意不去的樣子，加倫不但沒有喊“蔣校長萬歲”，反而面露不悅之色。聶榮臻認為，“這件事不僅在蔣與加倫之間的關系上，留下裂痕，似也在黃埔內部，第一次布散了一層陰影。”

一個多月的東征作戰，黃埔軍校教導第一團給加倫留下了良好的印象。他在一份報告中寫道：“在第一團，政治工作才剛剛開展，然而這個團卻已經向人們表明，無須多久，為民族解放而英勇獻身的中國人民必能造就一支捍衛自己的這樣的軍隊：在這支軍隊面前，那些譏諷、嘲笑者都將被迫住口，而中國人民的朋友則將發出一片贊嘆之聲。”3月16日，加倫在河婆召開的祝捷大會上對黃埔軍校教導團全體官兵發表演說，他稱贊道：俄國同志親眼看見教導第一團勇敢戰斗，在俄國紅軍中，“極好的部隊才能見著如此成績”，因此，可以稱為“世界上頂好的軍隊”。他還舉例說，棉湖一戰的成績，不獨在中國少見，“即世界上亦是少有的”。他相信，中國革命可以成功，“因為教導第一團能如此奮斗”。

同剛到廣州的時候相比，加倫對蔣介石的看法有所改變，他發現蔣介石缺乏軍事指揮才能。加倫在一次戰斗結束后這樣寫道：“敵人雖然退卻了，但是就原來的作戰意圖而言，這與其說是勝利，不如說是失利。”原因在于：(1)戰場上缺乏指揮。“此類錯誤蔣介石將軍一犯再犯。他僅僅指明最初的攻擊方向，卻從來不指揮戰斗，有時竟躲在大后方，橫加干涉，致使戰斗停止……”3月13日，加倫來到蔣介石的司令部，詢問教導一團、二團及各團獨立隊的部署地點，蔣介石竟然答不上來。“顯而易見，部隊完全失去了指揮。”

雖然蔣介石在軍事方面表現得很平庸，但他對蘇聯顧問提出的建議還是能夠接受的，而且不公開地同顧問爭吵。正因為如此，加倫承認，“蔣介石將軍與我國顧問的關系尚屬融洽”。但蔣介石是否出于真心實意，加倫還“難下斷語”。

不僅如此，蔣介石還經常在公開場合下稱贊蘇聯共產黨。4月9日，蔣介石召集黃埔軍校全體學員和士兵訓話。他對蘇聯共產黨嚴格的組織紀律表示欽佩，說：俄國共產黨重在紀律，組織又嚴密，他的黨員服從黨的命令，遵守黨的紀律，絲毫不能自由。他們為什么甘愿犧牲個人自由？因為“他們明白主義，都有決心，犧牲各個人的自由，來求他們國家的自由，所以他們成功就那么快。”

正當廣東政府軍隊準備追擊陳炯明在惠州的老巢時，駐守廣州的云南軍閥劉震寰和廣西軍閥楊希閔乘機發動叛亂。結果，在退守還是堅守廣州問題上，蔣介石同加倫發生了分歧。4月27日，在前往汕頭的途中，蔣介石建議不戰而讓出廣州，甚至還要把黃埔軍校遷至汕頭。加倫認為，廣州一旦失守，不僅對廣東，而且對全國的革命運動都會造成嚴重損失。因此，必須準備足夠的力量保衛廣州。