武德元年(公元618年)九月，王世充趁瓦岗军势弱向其发起进攻，李密遂令王伯当留守金墉（今河南洛阳东），亲率军前往偃师（今河南省洛阳市偃师区）抵御。而单雄信则奉命据守在偃师城北。 由于瓦岗军在偃师之战中接连失败，将领程知节（程咬金）、秦叔宝等也先后被王世充擒获，对李密早有不满的单雄信先是据兵自守不再听李密号令，之后又投降王世充，并在此后被王世充任命为大将军，瓦岗起义军也随之瓦解，徐世勣等跟随李密投降了新建的唐朝。 武德二年（公元619年），王世充废掉隋皇泰帝自立。次年七月，日渐壮大的唐军在秦王李世民的带领下进逼洛阳攻打王世充。李世民欲用轻骑兵诱敌却身陷重围，殿后撤离时，单雄信率领数百骑兵对其进行夹击，几乎要将李世民活捉。徐世勣闻讯赶来大声点明李世民身份，单雄信遂放弃进攻带兵离去。 武德四年（公元621年）五月，接连败于唐军之手、走投无路的王世充带领包括单雄信在内的文武官员向李世民投降。 李世民随即下令将包括单雄信在内的十多个王世充的将领绑赴洛水斩杀示众。徐世勣闻听消息，替单雄信向李世民求情，求他将勇猛善战的单雄信收归旗下，免他一死，但唐高祖李渊不许，李世民拒绝了他的请求。单雄信被杀后，徐世勣收养了他的儿子，并答应会照顾其家人。
