秦晋之好的具体故事发生在春秋时期。晋献公晚年娶齐桓公女儿齐姜，齐姜与当太子的姬诡诸有私情，姬诡诸继位成为晋献公后，把庶母齐姜娶为夫人，生女伯姬及子申生。伯姬在后来的秦晋政治联姻中嫁给秦穆公为夫人，这就是秦晋之好的起源。

后来，晋献公年迈昏庸，要立小儿子为继承人，杀死了当时的太子申生，这导致另外的两个儿子夷吾和重耳，各自逃往国外避难。夷吾在姐夫秦穆公的帮助下，回到晋国，成为晋惠公，但不久，秦晋失和，夷吾甚至发兵攻打秦国，结果惨败，只好叫自己的儿子公子圉到秦国做人质。

秦穆公为了笼络公子圉，把自己的女儿怀嬴嫁给了他，然而公子圉听说自己的父亲病重，就跑回晋国，顺利继位，这就是晋怀公。秦穆公再次改换目标，于是把逃到楚国的重耳接到秦国，把女儿怀嬴改嫁给他。后来，重耳在秦穆公的帮助下，当上了晋国的新国君，成为有名的“春秋五霸”中的晋文公。而秦国与晋国关系密切，这种政治联姻被后人称为“秦晋之好”。