薛兼，字令长，丹阳人。他是吴国尚书仆射薛综的孙子，薛莹的儿子。薛兼从小就显示出过人的才智和气度，不仅学识渊博，而且性格开朗，待人诚恳，因此在当地颇有人望。薛兼年轻时，与纪瞻、闵鸿、顾荣、贺循齐名，被誉为“五俊”。这五个人都是当时的杰出才子，各有特长，相互之间也有着深厚的友谊。他们常常一起探讨时政，研究经史，切磋文学，成为了江南地区一时的文化盛景。

在晋朝灭亡吴国之后，薛兼初次来到洛阳，他的出现立刻引起了司空张华的注意。张华觉得薛兼的气质和才华非常与众不同，不禁赞叹道：“你就是南方的珍宝啊。”这句话表达了对薛兼才华的认可。薛兼并没有因为张华的赞誉而骄傲自满，反而更加努力地提升自己。

薛兼在历经了比阳相、太子洗马、散骑常侍、怀令等职位后，因其才干受到了东海王司马越的赏识。司马越对薛兼的能力颇为认可，因此邀请薛兼加入自己的幕僚团队，担任参军一职。不久后，被转任为祭酒，由于他他在官场上的清正廉洁，他被封为安阳亭侯，他的声望和地位更加显赫，成为朝中的重要人物。

司马睿在担任安东将军期间，对部下的选拔和任用非常重视。他提拔薛兼担任军谘祭酒，这一职位相当重要，负责辅助将军制定军事策略和指挥作战。随着时间的推移，薛兼凭借出色的政绩和严谨的品行，逐渐获得了升迁的机会，他被提拔为丞相长史，在担任丞相长史期间，薛兼严谨行事，克己奉公。

薛兼深知，自己所得的俸禄和地位都是国家给予的，因此他始终保持谦逊和节俭的品质。尽管上级的俸禄优厚，但他从不贪婪，只取自己应得的一份。这种高风亮节的品行，使得他在朝中赢得了广泛的赞誉和尊敬。由于薛兼的政绩和品行都堪称楷模，他的爵位被提升为安阳乡侯，这一荣誉是对他多年辛勤付出的肯定。不久后，他被任命为丹阳太守，治理一方水土，造福百姓。

薛兼的唯一儿子薛颙不幸去世，且没有留下任何后代，这对于薛兼来说无疑是一个沉重的打击。面对家中的不幸，薛兼虽然心中充满了悲痛，但他并没有因此而沉溺于个人的哀伤之中。他继续坚守在自己的职位上。尽管内心承受着巨大的痛苦，薛兼依然保持了他的工作效率和水准，这种精神在当时和后世都受到了人们的敬佩。

晋元帝司马睿建立东晋后，重视人才的选拔和任用。在这个时期，薛兼因其出色的才能和品德，被转任为丹阳尹。同时增加了中二千石，这使他成为了当时地位显赫的官员。薛兼在丹阳尹的职位上表现出色，深受晋元帝的信任和赏识。不久之后，他又被任命为尚书，同时，他还兼任太子少傅，成为了太子的师傅。

从薛综到薛兼，薛家三代都在东宫担任太子少傅，对不同国家的太子教育都起到了重要的作用。他们都以严谨的治学态度和博大的学识，赢得了人们的尊敬和赞誉。

永昌元年，薛兼升任太常。晋明帝即位后，又加封他为散骑常侍。因为薛兼曾是东宫的少傅，所以皇帝下诏表彰自己的老师。这一年，薛兼去世。皇帝说薛兼品德高尚，为人谦逊，竭尽忠诚，严于律己，追赠他为左光禄大夫、开府仪同三司。