随后长孙晟率5万人在朔州西北筑大利城给启民可汗驻守，令其招抚突厥其它部落，前后归附者万余口，其中包括都蓝可汗之弟都速等，长孙晟将归附之人全部安置妥当，从此突厥归附。可以说长孙晟为分化瓦解突厥，促进民族融合起了重要作用，时安义公主已卒，隋文帝又派长孙晟持节送宗女义成公主嫁给启民可汗。长孙晟又上奏说：“染干部落归者既众，虽在长城之内，犹被雍闾抄略，往来辛苦，不得宁居。请徙五原，以河为固，于夏、胜两州之间，东西至河，南北四百里，掘为横堑，令处其内，任情放牧，免于抄略，人必自安”。此举得到隋文帝的同意。

突厥都兰可汗被部下所杀，其部落大乱，为挽救突厥颓势，达头可汗自立为步迦可汗。长孙晟乘机上奏说：“今王师临境，战数有功，贼内携离，其主被杀，乘此招诱，必并来降，请遣染干部下分头招慰”。隋文帝同意，都兰部果然尽来归附。步迦可汗得此消息后，大为恐怖，率兵进犯隋边。

隋文帝命晋王杨广、尚书右仆射杨素出灵州，汉王杨谅、柱国史万岁出朔州，合击步迦可汗。文帝诏长孙晟为秦川行军总管，率突厥归附各部为前锋，随与晋王杨广出征。时步迦可汗正与杨广对峙不下，长孙晟由于熟悉突厥民俗风情，知其人马均需饮用泉水，便献计说：“突厥饮泉，易可行毒”。于是命人在泉水上游撒放毒药。突厥人、畜饮水后很多被毒死，人心惶惶，在惊道：“天雨恶水，其亡我乎”遂连夜遁逃。长孙晟率部追击，斩杀突厥千余人，俘百余口，六畜数千头。杨广大喜，遂引长孙晟入内帐，把酒言欢。时有突厥达官来降，坐在帐内，说“突厥之内，大畏长孙总管，闻其弓声，谓为霹雳，见其走马，称为闪电。”杨广笑着说：“将军震怒，威行域外，遂与雷霆为此，一何壮哉！”凯旋回京后，授长孙晟上开府仪同三司，并再次还大利城，安抚新归附之众。

步迦可汗逃至大斤山时，与史万岁一路隋军相遇，结果大败，慌忙引军回撤。不久，步迦可汗又派他的侄子俟利伐，从沙漠东面攻打启民可汗，隋文帝再次发兵协助启民可汗防守军事要道，俟利伐只得退入沙漠，启民可汗大为感动，表示愿千世万代永为隋臣。长孙晟上奏说：“臣夜登城楼，望见碛北有赤气，长百余里，皆如雨足，下垂被地。谨验兵书，此名洒血，其下之国必且破亡。欲灭匈奴，宜在今日”。隋文帝诏令杨素为行军元帅，长孙晟为受降使者，援助启民可汗北击步迦可汗。

军至黄河，正值突厥思力俟斤等率部渡过黄河，袭扰已经归降隋王朝的突厥启民可汗，掠走男女6000人、牲畜20余万头。长孙晟与上大将军梁默奉杨素之命率轻骑追击，转战60余里，大败突厥，长孙晟又教启民可汗分遣使者，往北方铁勒等部招抚归附。有铁勒、思结、伏和具、浑、斛萨、阿拔、仆骨等十余部背离步迦可汗，降于启民可汗。步迦可汗部溃不成军，西奔吐谷浑。长孙晟送启民可汗安置于碛口，启民可汗于是尽得步迦可汗之众。随后多年，启民可汗与隋一直保持亲善，事毕，长孙晟回朝。

隋文帝病崩，与长孙晟有旧交的隋炀帝杨广，为表拉拢之意，遂任命其为内衙宿卫，知门禁事，即日拜左领军将军。不久，汉王杨谅在晋阳起兵，公开反对炀帝即位，由于綦良、余公理等各路隋军出师不利，节节败退。炀帝根据重臣杨素的推荐，任命前江州刺史李子雄为上大将军，并以长孙晟为相州刺史，征集山东军队，与李子雄共同配合镇压杨谅军。长孙晟的儿子在杨谅部下效力，他为了避嫌，便予以推辞，炀帝倍加安抚，长孙晟遂奉命出兵，击破杨谅。回军后，转为武卫将军。

炀帝欲北巡至榆林，欲出塞外，陈兵耀武。因怕启民可汗惊惧，便先派长孙晟到启民可汗部喻旨。启民可汗闻讯后，召所部奚、室韦等数十个部落的酋长聚集，以迎接炀迎帝。长孙晟见营帐前杂草丛生，想要让启民可汗亲自拔除，并让各部酋长看到，使其明白天子的威重。思虑过后，他手指帐前的草说：“此根极香。”启民可汗闻后说：“殊不香也。”长孙晟又说：“天子行幸所到之地，诸侯都躬亲洒扫，除清御路，以表示自己的至敬之心。如今牙帐中荒芜，所以说是留香草罢了！”启民可汗这才悟其本意，拔下佩刀，亲自除草。其余各部族长见后，争相仿效。启民可汗又发命举国就役开御道，西起榆林，东达于蓟，长3000里，宽百步。炀帝听到此事，对长孙晟的办法非常赞赏。后来，长孙晟被任命为淮阳太守。他尚未赴任，又复任右骁卫将军。

长孙晟去世，时年五十八，炀帝深表悼惜，赐赠甚厚。炀帝出塞北巡，于雁门为突厥始毕可汗所围，危急之下，不禁慨叹道：“如果长孙晟还在世的话，朕不至于被匈奴逼到如此地步！”

长孙晟之女长孙皇后，是唐太宗李世民的皇后，贞观年间，李世民追赠长孙晟为司空、上柱国、齐国公，谥号“献”，后世亦称其为“齐献王”。在其子长孙无忌获罪后，长孙晟的庙宇遭到毁坏，经西台舍人徐齐聃进言，长孙晟的外孙、唐高宗李治同意修复其庙。