晋阳起兵后，李元吉被任命为太原郡守，册封为姑臧郡公，负责留守太原。[2][5]大业十三年（617年）十一月，李渊等人占领长安后，进封为齐国公，授予十五郡诸军事和镇北将军的官职，负责留守太原，给予便宜行事的特权。武德元年（618年），进爵为齐王，授予并州都督的官职。次年，刘武周获得突厥相助，统兵向南进攻汾州（今山西翼城）与晋州（治所今山西临汾），高祖李渊派遣右卫将军宇文歆辅佐齐王李元吉镇守并州（治所晋阳，今太原）。刘武周攻陷介州（今山西介休），高祖李渊先后派遣太常少卿李仲文与尚书右仆射裴寂统兵抵御，全部战败。不久，刘武周派遣五千骑兵进入黄蛇岭（今山西榆次北），齐王李元吉派遣车骑将军张达率领百余步兵迎战，张达以为兵力太少，无法应战，投靠刘武周占领榆次，兵锋直指并州。齐王李元吉恐惧，选择弃城逃走，返回京城长安。刘武周顺势占据太原，派遣宋金刚六日攻占晋州（治所今山西临汾），抓获右骁卫大将军刘弘基；不久，浍州（今山西翼城）也被刘武周攻占。消息传到京城长安（今西安），高祖李渊大怒，认为李元吉年幼，战败的责任应该是右卫将军宇文歆，在礼部尚书李纲劝谏下，高祖李渊没有追究责任。不久，加授齐王李元吉为侍中、襄州道行台尚书令和稷州刺史等官职。
