前往长安的信使带回了来自大唐帝国的赞扬和褒奖，这使得张义潮的起义军更是军心大振。大中五年(农历851年)，张义潮率军开始对吐蕃展开大规模军事攻势，吐蕃在河西腐朽的统治立刻土崩瓦解，各州的吐蕃军队往往闻风而逃，都退往凉州。到这一年的八月，张义潮军已经收复了整个河西走廊中除凉州之外的所有州县，河西终于又重归大唐的版图之中机密。
大中五年(农历851年)八月，张义潮第二次向长安派出规模宏大的信使队伍，携带着河西11州(瓜州、沙州、伊州、西州、甘州、肃州、兰州、鄯州、河州、岷州、廓州)的图籍入长安告捷。为了对中央政府表示忠诚，张义潮的兄长张义潭毅然作为信使带队前往长安。
由于此时河西走廊的大多数州县已经处在张义潮军的控制之下，所以这一次的信使团出使长安的行程十分的顺利。唐宣宗接到瓜、沙11州图籍和张义潮的捷报后，特下诏表扬张义潮等人的忠勇和功勋。
十一月，唐王朝于沙州建立归义军，统领瓜沙等11州，授张义潮归义军节度使、11州观察使，管内观察处置，检校礼部尚书，兼金吾大将军，食邑2000户，实授300户。拜李明达为河西节度衙兼监察御史，拜李明振为凉州司马检校国子祭酒，御史中丞，授吴安正为武卫有差。而作为人质留在长安的张义潮兄长张义潭则被授为金吾卫大将军。
随着瓜、沙、肃、甘诸州的收复及沙州归义军的建立，吐蕃军队节节败退，最后集中于姑臧(凉州)。凉州是北朝、隋唐以来的河西重镇，唐朝前期一直是横断吐蕃和突厥的河西节度使所在地。吐蕃统治时期，又是统辖河西东部的大军镇驻地。如果凉州仍在吐蕃手里，那么张义潮所提出的收复河西东部及陇右数郡就是一句空话。因此,为了有效地控制河陇地区，张义潮便从大中十二年（农历858年）八月率军开始了他东征凉州吐蕃的伟大壮举。当然此时的凉州已经聚集了大批的吐蕃军队，另外还有河西陇右地区败退至凉州的吐蕃军，军力十分雄厚，这导致了凉州战役变得极其艰难。
前面已经说到吐蕃在河西倒行逆施，不但导致了唐人的愤怒，就是吐蕃人也对统治者极为不满。而归义军建立之后秉承大唐传统，对各族人民一视同仁，有力地团结了在河西走廊的各族人民。而这支东征军由汉、吐蕃两族士兵组成，共计7000名士兵。这是一次空前激烈的战斗，两军对阵之时，归义军人人置生死于度外。在血腥的死斗中，大唐精神重新焕发了光彩，吐蕃军终于支撑不住，汉军得势，押背便追。不过五十里之间，杀得横尸遍野。吐蕃军虽然遭到很大的打击，但是毕竟是强悍的敌人，归义军人数少，也没办法一时全部消灭吐蕃军队，于是这场残酷的战争足足拉锯了三年。
经过三年的血战，咸通二年（农历861年），张义潮终于一举攻克了凉州。张义潮收复凉州后，即表奏朝廷。咸通四年(农历863年)唐王朝复置凉州节度使，统领凉、洮、西、鄯、河、临六州，治所在凉州，由张义潮兼领凉州节度使。
咸通七年(农历866年)，北庭、轮台等地相继被归义军攻克，断绝多时的丝绸之路再度畅通无阻，在张义潮的经营下，当地人物风化，很快一如内地。当时的河西，南有吐蕃骚扰，北有回鹘窥视，归义军一刻也不能放松警惕，与强虏抗衡。
咸通七年(农历866年)，拓跋怀光率领五百骑兵进入廓州，生擒吐蕃权臣论恐热，将之斩首示众，首级传送长安，论恐热的部下在逃命途中，遇上归附大唐的豪酋尚延心，遭到重拳出击，实力大损，从此吐蕃走向衰亡，不能再和大唐争雄。在基本没有唐朝廷支援的情况下，归义军光复了整个河西，大唐帝国的边疆再度重现盛唐的光芒，商旅络绎于途，使节不绝于道。
张义潮经营河西地区多年，深得人心，吐蕃留下的烂摊子，张义潮将之处理得井井有条。他在归义军控制的地区全面恢复唐朝制度，废除吐蕃的部落制，重建州－县－乡－里，重新登记人口和土地，因地制宜地制定了新的赋税制度。
咸通八年（农历867年），张义潮的兄长张义潭在长安去世，此前，他一直作为归义军政权留在中央政府的人质。为了表达对大唐帝国的忠诚，张义潮将河西的事务交给了自己已经成年的侄子张淮深，不顾自己已是69岁高龄，前往长安充当人质。入朝以后，皇帝给予了他很高的礼遇，册封为司徒，拥有丰厚的田产宅第。
咸通十三年（农历872年），74岁的张义潮在长安享尽天年，安然去世，走完了他轰轰烈烈的一生。世人写下这样的诗句来赞扬张义潮：“河西沦落百余年，路阻萧关雁信稀。赖得将军开旧路，一振雄名天下知。
“今生岂料亲临问，特降天官出九重，锡赉缣缃难捧授，百生铭骨誓输忠”，张义潮的一生就是大唐精神的写照，爱国、爱家、爱华夏，他的铁血传奇映照了光耀千秋的尚武时代，金戈铁马，千难万险，只为心中的中华。只要中原腹地稳如泰山，失去的边疆可以自行光复，沦陷的百姓能够主动回归，这就是充满血性的唐人，这就是勇武雄健的唐人，这就是豪情万丈的唐代！