隋末天下大乱，刘武周因与马邑太守侍妾有染，担心事情败露，便向众人宣扬，马邑百姓贫乏，太守王仁恭不肯开仓赈济。众人心中由此产生怨愤，见刘武周称病不出，前来问候；刘武周许诺开仓赈粮，得到众多豪杰的支持。此后刘武周联合同郡张万岁等十数人，乘太守王仁恭前来视察之际，斩杀太守王仁恭，并开仓赈济贫乏之人，得到全城军民支持，组建出一万多人的军队。刘武周自立为马邑太守，为站稳脚跟，派遣使者依附于突厥。获悉刘武周拥兵自立，隋朝雁门郡丞陈孝意与虎贲将王智辩统兵前来攻打马邑，并围困刘武周于桑乾镇。后突厥兵前来支援，与刘武周共同攻打王智辩，大破隋军；隋将陈孝意带兵逃回雁门郡，被部将杀死，并举城投降于刘武周。刘武周统兵偷袭楼烦郡，并攻取汾阳宫；同时送出汾阳宫宫女贿赂突厥人，突厥始毕可汗回赠刘武周大量战马，使得军队战斗力不断增强。此后统兵攻陷定襄，最终回师马邑；后突厥册立刘武周为定杨可汗，并给其狼头纛，刘武周自称皇帝，以嫡妻沮氏为皇后，杨伏念为左仆射，妹夫苑君璋为内史令，建元天兴。
