了極大的決心，要把直系一舉置於死地，以解自己心頭的一腔怨恨。他祭起雙手，一手是竭力聯合皖、粵公開抗衡；一手是利用馮玉祥對曹、吳的不滿，從內部瓦解直系勢力。張作霖先是派出親信遊說馮玉祥，見有轉機，又透過段祺瑞付給馮玉祥三百萬的軍費，最後又命張學良付馮玉祥以鉅額款項。終於雙方約定：“兩軍相遇，均應對天鳴槍。”直系後院的火便這樣點燃了。

張作霖這次可說是肆無忌憚，沒有憂患了。1924年9月4日，張作霖便向直系挑戰，致電曹錕，聲言“將由飛機以問足下之起居，枕戈以待最後之回答”。9月15日，張作霖自任鎮威軍總司令，率六個軍二十五萬人向山海關、熱河一線推進。直系也以吳佩孚為總司令，出兵二十萬人，駐屯在山海關和熱河一線。

第二次直奉戰爭正式開始。

日本政府對中國的事可從來都不願閉上眼睛不聞不問，但他們口頭上卻又永遠宣稱“不干涉中國內政”。直奉戰事一起，日本軍部和右翼集團中支援張作霖的囂聲便猛漲起來。9月28日，日本憲政、政友、革新三派議員，發表宣言說：“中國政局波及東三省、蒙古，帝國斷不能容忍，望政府採取適當之處置。”10月10日，日本軍人和政黨人士又召集了“對支國民大會”，敦促日本政府以實力支援張作霖。同時日本軍部還動員了財閥和政黨中的一部分力量援助張作霖。戰爭中，日本又向山海關派來了一個有十餘人組成的軍事顧問團，幫助張作霖制訂具體的戰鬥方案。

奉、直兩軍，在山海關地帶一團混戰。正當打得不可開交之際，奉軍子彈忽然告急。原來，奉軍訓練太差，士兵們以亂放槍來給自己壯膽，隨意射擊，尤其是在黑夜，亂放子彈更是成了習慣，所以彈藥耗費得很快。張學良知道情況後，非常著急，一面派人購買大批紙製鞭炮送往前線，代替子彈。一面召集郭松齡等重要將領開會。張學良說：“我這就回奉天向大帥要子彈，如一週不回，咱們只有去內蒙索倫當土匪了。”會後，張學良便甩下這幾十萬軍隊，回奉省找他父親要子彈去了。正在這時，山海關以北安民寨方面直軍靳雲鶚派軍使來向奉軍求和。奉方便利用這個軍使，虛與委蛇，與直軍拖延時間。一週後，張學良由奉天迴轉，帶來了步槍、機槍子彈四千萬發，炮彈十萬發。於是，郭松齡率領四個旅出擊，一舉突破直軍陣地，直軍大亂。吳佩孚看出陣勢不妙，“親立炮火下督戰”，呼叫所有精銳，但已不能挽回敗局。

奉軍剛佔優勢，馮玉祥便起策應，率領直系第三軍陣前倒戈，於10月21日殺回北京，發動了“北京政變”，囚禁了直系首領曹錕。24日馮玉祥又解除了吳佩孚的直魯豫巡閱使及第三師師長等職，電邀孫中山先生北上主持大計。吳佩孚獲知情狀，大吃一驚，立即回師救京，然大局已定，一切都晚了。吳佩孚強作掙扎到11月3日，已到走投無路的境地，只得率殘部二千餘人，乘華甲運輸艦，狼狽地逃至英美勢力所在的長江流域。至此，第二次直奉戰爭便以張作霖的全面勝利而告結束。

張作霖費盡了苦心，終於在1924年11月14日，又耀武揚威地來到了北京城。第二天，他便與馮玉祥、盧永祥等推舉段祺瑞為“中華民國臨時總執政”，執掌###。孫中山先生因受邀請，也來到天津，期待與張作霖、段祺瑞共謀國事。張作霖、段祺瑞本無意於坐下來與孫中山認真圖謀，便使盡種種手段，與孫中山先生的革命主張相對抗。張作霖在孫中山到天津後的第二天，便整衣前往拜訪，關起門來和孫中山密談。張作霖勸孫中山不要反對外國人，因為外國人可不是好惹的，而且各國公使都非常反感聯俄聯共的政策，鈐希望孫中山先生放棄。他還表示願代替孫中山先生疏通外國人的感情，且拍著胸脯滿有把握地對孫說：“這件事包在我張作霖一個人身上，一定可以成功！”孫中山聽了是又好氣，又好笑，也無可奈何，然而他的召開“國民會議”，共謀大計的主張，最終還是被段祺瑞、張作霖破壞了。不久，孫中山病發逝世，粵、皖、奉“三角同盟”遂告瓦解了。

段祺瑞就任臨時執政以後，任命張作霖為東北邊防督辦。奉軍也在1924年末和1925年初大舉入關，到8月間，先後佔領了河北、山東、安徽、江蘇，直達上海，幾至半個中國。這一時期奉系勢力最為鼎盛，張作霖更是洋洋得意。一天，他對一個即將去上海接任的旅長說：“你們快去接事兒吧，三五年內，我不打人，絕對沒有人敢打我老張。”

1925年5月30日，不海爆發了“五卅”運動，一時間席捲全國，掀起了中國反帝