《教父2》主要讲述了第二代教父迈克尔·柯里昂的奋斗历程，同时影片也回忆了第一代教父维多·柯里昂创业的艰辛。

在西西里，少年时代的维托为报父仇（罗伯特·德尼罗饰），袭击了当地黑手党首领唐·乔奇。在母亲的掩护下，维托得以逃脱，并来到了美国。这已经是1901年的事了，第二代教父迈克尔·柯里昂（阿尔·帕西诺饰）回忆起父亲的青年时代，不由得深深感到了创业的艰辛。迈克和妻子凯（黛安·基顿饰）为儿子托尼举行了圣餐仪式和庆祝活动。但就在当夜，迈克尔遭到了袭击，凯受了伤。面对接管家族后所遇到的种种困难，迈克尔又回忆起了父亲唐·维托到美国后的奋斗历程。

迈克尔一步步进行着复仇。同时他也在不断拓展家族的势力。通过与吉尔参议员勾心斗角的明争暗斗，迈克尔终于又控制住了一家大饭店，并开展了赌博生意。就在迈克尔扩大家族的势力时，一名叫罗斯（李·斯特拉斯伯格饰）的黑道人物又闯了进来，企图占领迈克尔的地盘。双方在暗地里展开了较量。迈克尔不满足于在国内已有的势力，他的手又伸到了古巴。然而革命的爆发却使他的计划受到了严重的挫折。

罗斯收买了迈克尔的哥哥弗雷多（约翰·凯泽尔饰）为他提供情报，企图暗杀迈克尔。但迈克尔也已对罗斯采取了暗杀行动。迈克尔含泪处置了弗雷多，却不禁回忆起当年父子兄弟间其乐融融的情景。迈克尔的不法行为终究为他招来了麻烦。政府展开了对他的调查。迈克尔受到了一系列的指控。然而借助权术，迈克尔又一次转危为安，逃脱了法律的制裁。

迈克尔成功地对付了政府的调查，但他的妻子凯却再也受不了这种充满了暴力、暗杀和罪恶的生活。她去做了人工流产，含泪离开了迈克尔。亲人的离去和兄长的背叛使迈克尔深受打击。金钱和权势并未给迈克尔带来幸福。他孤独地坐在湖边的住宅外，茫然地望着远方。