武德二年(619年)，当时活动于易州(治今河北省易县)的农民起义军首领宋金刚，拥有一万多人马，和魏刀儿相连结。魏刀儿为窦建德消灭，宋金刚率军救援魏刀儿，被窦建德打败，于是带领四千人马向西投奔刘武周。
刘武周得知宋金刚手下大将尉迟恭很快用兵，得到宋金刚投靠之后，非常高兴便将自己的妹妹刘氏嫁给宋金刚加以笼络，称宋金刚为宋王，将军事大权交给宋金刚，并将自己的财产分出一半送给宋金刚。
宋金刚也深加交结，休掉原来的妻子，娶了刘武周的妹妹。并趁机劝刘武周图谋晋阳(今山西省太原市)，向南争夺天下。刘武周任命宋金刚为西南道大行台，让尉迟恭带领三万兵马攻取汾阳，刘武周率兵六万进攻寿阳、宋金刚自己率兵攻占交城。
李元吉只身逃回长安之后，山西守将姜宝谊率军赶到介休，在度索原(今山西省介休市东南介山下)扎营。宋金刚见姜宝谊大营依山而建，军中饮水多从山涧摄取，宋金刚让人切断唐军水源，导致军中缺水。姜宝谊想要移营靠近水源，宋金刚趁势进攻，于是姜宝谊大军溃败，宋金刚率军连夜追击，杀得唐军几乎全军覆没，守将姜宝谊也被尉迟恭生擒，至此晋州以北的城镇尽数陷落，唯独西河郡得以保存。
刘武周在击溃井陉唐军之后占据太原，随即派尉迟恭为先锋，宋金刚为主帅，进攻霍邑，击败霍邑唐军守将，宋金刚进逼绛州，攻陷龙门(今山西省河津市)。
十月，宋金刚进攻并攻克浍州(治翼城，今属山西省)，军势很猛。唐军守将兵力匮乏，只得不断地派出使者，催促虞、泰二州的居民进入城堡，并焚毁他们的积蓄。百姓见家园被烧，心中不满，夏县(今山西省夏县)居民吕崇茂聚众自称魏王，响应刘武周，守军去讨伐，却被吕崇茂打败。
十一月，秦王李世民乘黄河封冻之时，率兵从龙门渡过黄河，驻扎在柏壁，与宋金刚对峙。此时黄河以东的州县均遭到宋金刚军队的洗劫，粮食匮乏，百姓惧怕宋金刚军队的袭扰，聚居在城堡中，宋金刚军队征集不到东西，军队缺粮。
李世民以大唐秦王的身份晓谕百姓归唐，百姓听说是秦王李世民率军前来，无不前来归顺，由近及远，前来的人日益增加，然后唐军逐渐征收到粮食，军粮因此充足。于是李世民下令军队坚壁清野，不与宋金刚交战，只命非主力部队的将领伺机侵袭宋金刚军粮道，宋金刚的大军因为缺少粮草，军心日益萎靡不振。
十二月，唐朝永安王李孝基采纳于筠等人建议，进攻吕崇茂。吕崇茂与李孝基军激战数日，未能将李孝基军击溃，不得不向宋金刚求援。宋金刚收到吕崇茂的求援，随即派遣手下将领尉迟恭、寻相带兵赶到夏县，和吕崇茂一起夹击李孝基军，李孝基军腹背受敌，被尉迟恭等人杀得大败，李孝基、独孤怀恩、于筠、唐俭、刘世让都被宋金刚俘虏。
自正月开始，宋金刚围攻绛州，李世民派大将殷开山率军四万驻守绛州，宋金刚猛攻数月，均不能突破绛州的防守，然而是损兵折将。
四月，刘武周欲攻破浩州，从侧背进攻唐军，谁想连续数次进攻，都被唐军守将李仲文打败，刘武周不得不放弃进攻浩州，转而撤回太原休整。而此时宋金刚军中粮食已经告罄，不得不向北撤退，想要和太原的刘武周合兵一处。
李世民知道宋金刚军中缺粮，必然会摆脱唐军的纠缠撤回太原与刘武周合兵一处再战。李世民派大将殷开山绕过宋金刚大营，一连数日急行军赶到雀儿谷设伏，自己则领着大军尾随宋金刚大军其后。
宋金刚走到雀儿谷后，一时不察中殷开山埋伏，李世民率军与殷开山前后夹击宋金刚大军，杀得宋金刚大败，李世民一路追杀，斩首数万，宋金刚手下大将寻相战死，尉迟恭被俘，宋金刚率数百残军突出重围，才得幸免。宋金刚一路向北逃入突厥境内，李世民这才停下追杀。
太原的刘武周收到宋金刚大败的消息，哪还敢留在太原，只得一路退回马邑郡，在马邑郡收拾了一些金银细软，马不停蹄地放弃并州之地，逃到突厥境内寻求突厥颉利可汗的庇护。
李世民在收服山西全境之后，原本打算继续北上收复楼烦、马邑、定襄三郡，考虑到秦琼和程知节的五万大军还在太行山中陈兵，只得派大将殷开山率兵兵五万进驻井陉防止秦琼趁机偷袭山西，自己则领着剩下的大军一路扫平楼烦、马邑两郡。
颉利可汗见李世民率兵进逼定襄郡，随即手下大将阿史那思摩和契苾何力分别率兵三万进入定襄城，防备李世民袭取定襄郡。李世民不愿和突厥人过早发生战争，在马邑郡劫掠一番之后，领着数万马邑百姓回到太原郡。至此李世民一战基本解决李唐北部的威胁。
安置好百姓之后，李世民随即派遣行军长史刘文静携带大量钱财北上觐见颉利可汗。刘文静见到颉利可汗之后以金银开道收买颉利可汗心腹之人，劝说颉利可汗不要与大唐开战，并请求颉利可汗诛杀宋金刚等人。对于刘文静请求诛杀宋金刚等人，颉利可汗并没有拒绝，先是派人找宋金刚在定襄城腰斩而死，刘武周等人却没有处置。
刘文静知道颉利可汗不可能再继续斩杀刘武周，于是辞别颉利可汗回到了晋阳。就在刘文静走后，颉利可汗的可敦（皇后）大隋义成公主，不断劝说颉利可汗与大隋结盟，帮助大隋清剿李唐。颉利可汗本就有心拿下逐鹿中原，现在义成公主送来借口，正好借着义成公主的名义与杨英结盟，南下讨伐李唐。
突厥人不断在定襄城集结大军，驻守晋阳的李世民察觉到了异常，随即亲自率军进驻雁门关，密切关注突厥人的动向，战争的阴霾也在一点点靠近.......