武德九年（626年），突厥大举侵犯唐朝边境，太子李建成推荐齐王李元吉领兵迎战。同时，他命令秦王府的勇将秦叔宝、尉迟敬德、程知节、段志玄等人随行，企图借此削弱秦王府的势力。秦王府的智囊房玄龄、杜如晦和长孙无忌等人，深感事态危急，力劝秦王李世民果断行动。他们认为，若不能当机立断，秦王府上下恐难逃一死。
六月三日，李世民毅然决定先发制人，秘密向高祖李渊报告，称太子李建成和齐王李元吉与后宫有染。高祖闻讯，召令三兄弟次日朝堂对质。李元吉劝李建成称病不去，但李建成未予采纳。
六月四日，李世民率尉迟敬德等九人提前埋伏于玄武门内。当李建成和李元吉步入玄武门，走至临湖殿前时，察觉异样，李元吉骑马欲返太子宫。李世民追出大声喝止，李元吉惊慌失措，张弓搭箭连射三次，均未能拉满弓弦，箭矢偏离目标。李世民则一箭射中李建成，将其击毙。
此时，尉迟敬德率七十骑冲出，李元吉身中流箭仓皇逃窜。李世民追击至树林下，不慎被树枝绊落马下，无法起身。李元吉见状返回，欲用弓弦勒死李世民。尉迟敬德及时骑马冲出，大声呵斥，李元吉不敢恋战，奔向武德殿求救于高祖。尉迟敬德紧追不舍，将其射杀。
随后，太子府和齐王府的将领薛万彻、谢叔方、冯立等人率兵赶至玄武门，杀死屯营将军并攻打玄武门。尉迟敬德出示李建成和李元吉的首级，终将两府兵马驱散。李元吉被杀时年仅二十四岁，其五子亦同遭厄运。
太宗李世民继位后，追封李元吉为海陵郡王，谥号“剌”。贞观十六年（642年），再追封为巢王，谥号依旧。同时，以皇子曹王李明为李元吉之后嗣。
