公元621年，徐茂公奉命去斩杀单雄信的家人，他和单雄信本是情同手足的结义兄弟，只可惜两人投靠到不同的阵营里，单雄信被诛杀以后，徐茂公悲痛不已，如今又要去斩杀好兄弟的家人，看着满屋子瑟瑟发抖的老幼妇孺，哪里下得去手？
他思来想去，最后做了一件事，既保全了和单雄信的兄弟情义，又能去向李世民交差。
单雄信被捕以后，徐茂公作为他昔日的好兄弟，曾经三番两次亲自去劝降，从家人性命讲到天下大势，从个人情感谈到公理道义，任他磨破了嘴皮子，单雄信始终一言不发，被逼得急了，对着他一通痛骂。
徐茂公深知说服不了单雄信，只能觍着脸去求李世民，希望李世民能看在他尽忠尽力的份儿上，饶他的好兄弟一命。李世民低头沉吟片刻，严肃地说：“单雄信不能留！之前他还有心留单雄信一命，但是徐茂公求情后，他忽然意识到这个人留不得。为防夜长梦多，很快就处死了单雄信。
单雄信死后，李世民深知斩草要除根，命令徐茂公亲自带人去单府抄家，男女老幼格杀勿论。李世民手下能臣众多，他却选定徐茂公去执行这项任务，一来表明自己对瓦岗寨旧人的信任，二来也希望徐茂公能对得起自己这份信任。
起初，徐茂公找出各种各样的理由拒绝，奈何李世民态度坚决，只能领命。他带兵来到单府，发现府里满地狼藉，一个人都没有，想来是下人奴仆们听说主人被杀，害怕受到牵连，抢了家里的东西逃命去了。
徐茂公心有戚戚焉，单雄信在时，单府是何等得风光无限，每天来拜访的人络绎不绝，庭院里时常传来欢声笑语，如今树倒猢狲散，门庭冷落鞍马稀，单家人也不知道都到哪里去了。
想到这里，徐茂公倒松了一口气，单家人是个烫手的山芋，杀也不能杀，留也不能留，原本他还担心见了面不知道该怎么办，如今其他人都跑了，他只需要面对单雄信就好。
《旧唐书》：勣对之号恸，割股肉以啖之，曰：“生死永诀，此肉同归于土矣。”
单雄信见他一身装备的前来，神色十分坦然，他淡然道：“我就知道你我只能走到这一步了。”
徐茂公听了十分难受，但他只能叹道：“我这辈子发誓要和兄长共患难，哪敢自己贪生？只是我已经许了国家，这事儿难两全。我死了，谁照顾兄长的家人啊？”说着，他就割了自己大腿上的肉给单雄信，说：“生死永别，这肉就陪你一起入土了！”
单雄信看了一眼对方，一句话没说，就毫不犹豫地吃了，随后慷慨赴死。
单雄信走了，徐茂公便将单雄信的儿子藏了起来。虽然徐茂公愁得来回踱步，但他再三考虑后，最终在手下的再三催促下，咬牙拔出了刀……
徐茂公把几具尸体呈到李世民面前，声称单家人都已经被自己杀了，李世民十分满意，当众表扬了他一番。
等到李世民离开，徐茂公终于松了一口气，这时他才发现自己满头冷汗，幸好李世民没有仔细审查，否则就会发现面前的尸体根本不是单家人，而是徐茂公从死牢里找来的几个死囚，真正的单家老小早已经在他的安排下秘密出城，如今大约已经到了安全地带。
徐茂公这一出“偷梁换柱”，既保住了单雄信的家人，又在李世民面前能交差，历来忠义两难全的难题，最后被他轻松化解，可谓机智过人。
后来，徐茂公备受李世民的宠爱，成为了李世民的心腹大臣，再后来，他还成为了李治的左膀右臂。公元669年，李勣去世的消息，传到了皇帝李治的耳朵里，李治听了之后非常悲痛，哭得像个泪人。
为了表达对李勣的哀悼，李治下令朝廷停止办公七天，这是对李勣的极大尊重。他还追封李勣为太尉、扬州大都督，赐给他“贞武”的谥号，允许他陪葬在昭陵，碑文由唐高宗李治亲自撰书。这是对李勣一生功绩的肯定。
到了下葬的那天，李治不光让所有官员送葬，他自己也亲自到了未央宫的故城，登上宫楼，望着李勣的灵车，又一次痛哭。太子李弘也跟着李治来送葬，他的悲痛之情，让在场的所有人都深受感动。
然而，说到这里，很多人不明白李世民为什么一定要杀单雄信，其实李世民原本也想放他一马，但是单雄信性格刚烈，又骁勇善战，早先在王世充手下任职时，是战场上的一员猛将，让李世民吃了很多亏。
王世充也非常信任单雄信，除了任命他为大将军，赏赐无数的金银财宝，还把女儿嫁给了他，两人有这层关系在，难怪单雄信会对他忠心耿耿。后来，王世充在和李世民的争斗中兵败被杀，单雄信一直把李世民视为仇敌，被捕后宁愿被杀死，也不肯俯首称臣。
宁为玉碎不为瓦全，这样的性格，刚烈又直接，然而，这样的人，如果不能为李世民所用，那么必然后患无穷。
李世民有很多手下都是瓦岗寨旧部，活捉单雄信以后，他曾派出包括徐茂公在内的很多人前去劝降，希望能把这位世间罕见的良将纳入麾下，同时也可以向瓦岗寨旧部展现自己的仁慈英明，以便笼络人心。但是单雄信的态度让他意识到此人无法收服，与其放虎归山，让自己日后在战场上多一个难缠的敌人，不如除之以绝后患。
此外，徐茂公来求情，也是李世民杀单雄信的原因之一。单雄信作为瓦岗寨数一数二的人物，在瓦岗旧部心中的地位很高，如果劝降单雄信没成功，反而让他把李世民的手下都策反了，那可就得不偿失了。
尽管李世民以求贤若渴著称，但在面对单雄信时，他必须权衡多方面的因素。李世民不愧是千古一帝，这样的深谋远虑和狠辣果决，是很多帝王无法比拟的。
