两个老将斗智
杨坚顺利铲除宗室势力之后，面对的就是元老重臣了。这些老臣，人数多，资历深，功劳大，能力强，远非王爷可比。在元老重臣当中，最出名的是韦孝宽、尉迟迥，还有李穆、司马消难、王谦等人。杨坚根据每个人的不同情况，采用了拉拢和打击两手策略，效果不错。
《隋书》记载，韦孝宽，是陕西西安人，汉族，出身将门之家。他从年轻投军以来，一生戎马，身经百战，屡立大功。在著名的玉璧之战中，他带领数千人，打败了东魏二十万大军，名声大振，被誉为南北朝第一名将。韦孝宽是杰出的军事家、战略家，唐代追封古代名将六十四人，宋代追封七十二人，他都名列其中。
韦孝宽有一个明显特点，他只热衷于军事，而不喜欢政治，更没有野心，对朝廷十分忠心。对这样的人，杨坚自然十分器重，极力拉拢。杨坚是辅政大臣，他打的是朝廷和皇帝的旗号，因而具有很大的优势。当时，韦孝宽已经七十一岁高龄了，杨坚仍不准他退休，反而给予重任，任命他为徐州总管，并统管徐兖十一州的军事。
韦孝宽是北周属一属二的元勋重臣，而另一位重量级的元老人物，是尉迟迥。尉迟迥，是山西大同人，宇文泰的外甥，从小在宇文泰家里长大。尉迟迥从年轻的时候，就跟随宇文泰南征北战，屡立战功，深受器重。到杨坚辅政的时候，尉迟迥已经六十五岁了，担任相州总管。
尉迟迥的孙女尉迟炽繁，是宇文赟“五皇后”之一，尉迟家族与宇文家族关系密切。尉迟迥的资历、功劳都比杨坚强得多，他见杨坚专权，很不服气，又见杨坚有篡位野心，更是气愤，心想，就算北周气数已尽，需要改朝换代，也轮不到杨坚你这个后辈啊。
杨坚对尉迟迥的心理摸得很透，知道他不可能被拉拢过来，只能寻机除掉。杨坚辅政不久，就对尉迟迥下手了，他以皇帝的名义，征召尉迟迥入朝，免去了他相州总管的职务，任命韦孝宽为相州总管，去接替尉迟迥。
当时的地方总管，相当于现在的大军区司令，而且还有行政权，势力很大。相州的治所在邺城，那是东魏和北齐的都城。相州管辖六个郡、几十个县，人多地广，物产富饶，实力很强，而且离京城长安不远。所以，杨坚要先拿他开刀。杨坚的打算是，如果尉迟迥奉诏进京，那就成功地调虎离山了；如果尉迟迥敢于造反作乱，有韦孝宽这位战神级的人物，也足以能够对付。
尉迟迥接到皇帝诏令后，知道杨坚的意图，立刻就气炸了肺，遂下了决心，打算起兵造反。可是，尉迟迥是位久经沙场的老将军，不会鲁莽行事。他不动声色，表面上服从朝廷诏令，给朝廷上表，说他遵旨行事，近日就可以入朝，暗地里却积极准备起兵之事。同时，尉迟迥还派出使者，远道去迎接韦孝宽。尉迟迥忌惮韦孝宽威名，想等他来后除掉，然后再起兵。
韦孝宽接到任相州总管的命令后，不敢怠慢，带领少数随从，立即赶赴邺城。韦孝宽一边走，一边在心里嘀咕，他知道尉迟迥的性情，认为他不可能甘心离开相州，此去恐怕会有麻烦。
韦孝宽走到朝歌时，遇见了前来迎接他的使者。韦孝宽没有想到，尉迟迥会派出使者，跑这么远的地方来接他，可是，他不仅没有受到感动，反而心里警惕起来。韦孝宽故意与使者东拉西扯地聊家常，借机探听虚实。通过闲聊，韦孝宽感觉到，尉迟迥并没有做入朝的准备，顿时起了疑心。
韦孝宽对使者说：“我年龄大了，走不快，你先去禀报，说我随后就到。”支走了使者，韦孝宽立即派几个随从，装扮成老百姓，赶往邺城侦察。韦孝宽放缓了脚步，磨磨蹭蹭地往前走，一天走不了几里路。
很快，随从回来报告说，邺城内军队调动频繁，似乎在准备打仗。韦孝宽心里明白了，尉迟迥这老家伙，果然想造反，他派使者来迎接，显然不怀好意，恐怕是想把他诓进城去，拿他祭旗。但韦孝宽没有证据，不便向朝廷报告，也不能贸然回去，于是，就在汤阴的驿站住下不走了，静观其变。