不出曹真所料，自關索斬殺張郃、生擒徐邈等涼州官員、攻克狄道后，天水以南諸多郡縣都流傳起漢軍的威武，許多魏民都對漢軍心存畏懼，不得不多關索當日釋放兩千降卒，確實影響深遠。
而涼州本就不是安分之處，羌、氐等胡人只是表面順服魏國，心中仍懷鬼胎。何況馬超此番也隨諸葛亮一同攻打涼州，他在胡人中一直有著極高的威望，加上魏軍連遭敗績，那涼州的胡人們自然免不了紛紛起事，一面響應漢軍，一面四處劫掠。
而徐邈等人如今都成了漢軍的階下囚，涼州后方正是群龍無首，根本抵擋不住胡人的攻勢，甚至有一些縣城的官員士卒覺得魏軍大勢已去，干脆一塊加入響應漢軍的隊伍。那些如武威郡丞這般尚忠心于魏國的官員只有四處求救，苦苦自保。
“如此看來，涼州難保也”
曹真與郭淮等人得知這個不幸的消息后，皆是面色沉重，無不清楚四面楚歌的涼州，會是怎樣的命運。
本來曹真還想等漢軍糧盡退兵，但街亭遲遲奪不回來，涼州半壁幾乎都在響應漢軍。如果魏軍再不及時撤出涼州，只怕會被漢軍圍困，到時候別說脫身，只怕會有滅頂之災。
“傳令全軍，撤往街亭速派人前往上邽告知費曜”
最終，曹真還是十分艱難地做出了這個決定，事關三軍安危的賭注，他實在賭不起。眼下萬全之策便是保存實力，加強雍州的防御，以防漢軍繼續西進。
不過曹真料想，涼州的這群胡人也未必會真心歸順漢軍，依照他們反復無常的性格，一定會向諸葛亮使絆子，也許那時魏軍還能趁機反攻。
還有一事，郭淮前日曾提到漢軍不知使了什么手段，可以在短時間內射出大量密集的箭矢，無論是在攻打魏寨還是水上攔截，都對魏軍造成了極大的傷亡。曹真對此事也深感困惑，希望能回洛陽與各飽學之士交流一番，看看能不能得出些線索。
聽到曹真的撤退軍令后，郭淮等人也都知道涼州局勢兇險，對曹真的決定并無異議。眾人按照曹真的吩咐，速去讓士卒收拾行囊。除了魏軍帶來的糧草輜重外，冀縣府庫里的天水錢糧，也一并被魏軍打包，絕不會留給漢軍。
而身處冀縣的太守馬遵等一眾天水官員，曹真也令他們攜帶家眷家產，隨大軍一同撤離。至于姜維的母親，此刻也在冀縣，曹真自然會把她一并帶走，他還特意叮囑士卒，切不可怠慢。
但是冀縣的百姓，曹真是真的沒辦法將他們全部帶走了，只帶走二三十戶愿意跟隨魏軍而去的。不過曹真等人都不是殘暴之徒，加上卻有重奪城池之念，因此沒做出火燒冀縣這種損人不利己的事情。
三日后，魏軍終于開始大舉撤退，乘坐早已備好的船只渡過渭水，往北面的街亭而去。此刻漢軍這里尚未備好足夠的船只木筏，數千兵馬雖在洛門加緊制造，但仍是數量有限，也便無法追擊魏軍。
“窮寇莫追，且讓魏軍退去吧。”
但對諸葛亮來說，能把魏軍從冀縣逼走，就已經是一大勝利。前番強攻洛門也讓漢軍損折不小，魏延與趙云皆無力征戰，諸葛亮也不想再做冒險舉動，他一面領兵趕往冀縣，一面派出大量斥候，去街亭打聽關索的消息。，，