正像王鸞說的那樣，張灌聽到張祚派兵來襲的訊息，立刻殺掉了索孚，並傳檄各州郡廢掉張祚，擁立張曜靈復位。然後調動兵馬迎擊易揣、張玲，把他們打得狼狽逃回姑臧。

這年八月，驍騎將軍宋混的弟弟宋澄因大哥宋修與張祚有矛盾，料到張祚早晚要對他們下毒手，便聯合了一萬多人響應張灌。張祚見自己落到了眾叛親離的地步，只好把氣發洩在張曜靈身上，他命令揚秋胡把張曜靈活活拉殺，胡亂埋到一個坑裡。

不久，宋混大軍到了姑臧城下，張祚想把在城內的張灌的弟弟張據和兒子張嵩抓起來殺掉，但還沒動手，張據和張嵩就已經把城門開啟，宋混大軍開進城內。這時的張祚還提著寶劍站在殿上命令士兵迎戰，士兵們平時在張祚那裡沒得到過任何好處，關鍵時刻誰也不願意為他賣命，很快張祚就被宋混計程車兵殺死。百姓們聽說張祚被殺，無不拍手稱快。

張祚死後，張灌、宋混、張據擁立張重華六歲的小兒子張玄靚為涼王。說是涼王，年幼的張玄靚除了看到刀光劍影覺得好玩，看到血流成河感到害怕之外，對國家大事什麼也不知道。大權落到了討伐張祚有功的張灌手中，張灌自任都督中外諸軍事、尚書令、涼州牧、張掖郡公。

張灌喜歡猜忌他人，而且還愛根據自己的愛憎進行賞賜、懲罰，因此許多人對他極為不滿。郎中殷郇勸諫他，張灌勃然大怒，說：“老虎出生三天就知道吃肉，何須別人教它”，差點把殷郇氣死。

宋混為人剛直不阿，自然成了張灌的眼中釘。359年9月，張灌想殺死宋混兄弟，廢掉張玄靚，自己當涼王。不料走漏訊息，反被宋混先下手把他打敗，張灌、張據兄弟倆自殺，之後，宋混又殺了張灌的全族。經過這一場內部鬥爭，已經10歲的張玄靚似乎懂了許多，他給宋混增加了不少頭銜，拜宋混為都督中外諸軍事、驃騎將軍、酒泉郡公，負責管理朝政。宋混讓張玄靚去掉涼王稱號向晉稱臣，張玄靚便稱涼州牧。

兩年後，宋混病重，張玄靚同祖母馬太后親自到宋混家中探望。張玄靚見宋混病得很重，哭著對宋混說：“將軍萬一不幸去世，留下我們孤兒寡母怎麼辦呢？我想讓你的兒子林宗代管朝政，不知你意如何”？宋混氣喘吁吁地說：“林宗年紀太小，不能勝任。如果你不嫌棄我們宋家的話，可以讓我弟弟宋澄代管朝政，他比我有能力。”

宋混死後，張玄靚拜宋澄為領軍將軍，管理朝政，但好景不長，361年，大司馬張邕起兵殺死了宋澄，同時也滅掉了宋氏一族。張玄靚對張邕濫殺大臣極為不滿，但苦於手中沒有兵權，只好忍氣吞聲，封張邕為中護軍，讓他同叔父、時任中領軍的張天錫共同輔政，名義上是兩人共同輔政，但張邕小人得志，大樹私黨，實際上是張邕專權。

16歲的張天錫是張重華的小弟，他對張邕獨攬大權自然不滿，於是就和親信張肅、趙白駒密謀殺掉張邕，奪回權利。這年11月，張天錫同張邕一起去朝見，走在後面的張肅猛地舉起刀向張邕砍去，但沒有砍中，趙白駒又上去補了一刀也沒砍中，只好和張天錫一起跑到宮中。

張邕脫身後，馬上帶著三百多名士兵攻打宮門。張天錫十分鎮靜地站在房頂上對下面計程車兵喊話：“張邕狼子野心，殺了宋氏全族還不過癮，現在又想殺我。你們都是前涼的忠臣，千萬不要上了張邕的當！我現在只殺張邕一人，其他的人一概不問。”聽了這話，張邕手下計程車兵立即四散跑光，張邕見狀只好自殺。張天錫則冠以大將軍，都督中外諸軍事輔政。363年8月，張天錫派張肅深夜帶兵入宮殺掉張玄靚，自稱大將軍、涼州牧、西平公。

張天錫掌權後，整天沉溺於酒色之中，連應該按時看望母親的時間都忘掉了，更談不上處理政務了。他的堂弟張憲帶著棺材去勸諫他，張天錫根本不聽，還是我行我素。

張天錫就這樣稀里糊途地過了十年。

376年七月，前秦步騎十三萬大舉伐涼。張天錫召叢集臣商議對策，禁中錄事席仂首先發言說：“你把你的兒子送到前秦去當人質，再給前秦君主多送些金銀財寶，讓他們暫時撤兵，我們再慢慢想辦法，這叫以屈求伸。”席仂的話還沒說完，就遭到其他大臣的激烈反對，他們憤怒地說：“我們世世代代以忠於晉朝而聞名，如今一旦委身事秦，就會使祖宗受到侮辱。況且，河西天險百年沒有災難，如果出動全國的軍隊，再求西域幫一下忙，怎麼就知道不能打勝仗呢！”

張天錫在大臣們高昂的情緒感染下，膽子一下子壯了起來，捋起袖子，大聲說：“我的決心以定，