Continua la saga della famiglia Corleone che si trasferisce in Nevada e fa del business dei casinò la sua principale fonte di guadagno sotto la guida del sempre più paranoico e maligno Michael, il cui regno come "Don" è contrapposto al racconto parallelo della fuga del padre dalla Sicilia da giovane e della sua successiva ascesa al potere nel Lower East Side di New York durante la fine del secolo.
Dopo il successo del primo film, Paramount Pictures iniziò a sviluppare un seguito, con il ritorno di molti membri del cast e della troupe. Coppola, a cui era stato dato un maggiore controllo creativo, voleva realizzare sia un sequel che un prequel de Il Padrino che raccontasse la storia dell'ascesa di Vito e della caduta di Michael. Le riprese iniziarono nell'ottobre del 1973 e terminarono nel giugno del 1974. Il Padrino Parte II fu presentato in anteprima a New York City il 12 dicembre 1974 e uscì negli Stati Uniti il 20 dicembre 1974, ricevendo recensioni discordanti da parte della critica; la sua reputazione, tuttavia, migliorò rapidamente e divenne presto oggetto di rivalutazione da parte della critica. Incassò 48 milioni di dollari negli Stati Uniti e in Canada e fino a 93 milioni di dollari in tutto il mondo con un budget di 13 milioni di dollari. Il film fu candidato a undici premi Oscar e divenne il primo sequel a vincere il premio come miglior film. Le sei vittorie agli Oscar comprendono anche la miglior regia per Coppola, il miglior attore non protagonista per De Niro e la miglior sceneggiatura non originale per Coppola e Puzo. Pacino ha vinto il premio come miglior attore ai BAFTA ed è stato nominato agli Oscar.
Come il suo predecessore, la Parte II rimane un film molto influente, soprattutto nel genere gangster. È considerato uno dei più grandi film di tutti i tempi e un raro esempio di sequel superiore al suo predecessore. Nel 1997, l'American Film Institute lo ha classificato come il 32° film più grande della storia del cinema americano e ha mantenuto questa posizione 10 anni dopo. Nel 1993 è stato selezionato per essere conservato nel National Film Registry della Biblioteca del Congresso degli Stati Uniti, in quanto ritenuto "culturalmente, storicamente o esteticamente significativo". Il Padrino Parte III, l'ultimo capitolo della trilogia, uscì nel 1990.
Il film si svolge tra gli eventi successivi a Il Padrino e i primi anni di vita di Vito Corleone.
Nel 1901, la famiglia del piccolo Vito Andolini, di nove anni, viene uccisa a Corleone, in Sicilia, dopo che il padre ha insultato il capo mafia locale Don Ciccio. Vito fugge a New York City e al suo arrivo viene registrato come "Vito Corleone". Nel 1917, Vito vive a New York con la moglie Carmela e il figlio neonato Sonny. Perde il lavoro a causa delle interferenze di Don Fanucci, un estorsore locale della Mano Nera. Il suo vicino Peter Clemenza chiede a Vito di nascondere una borsa di armi; come ringraziamento, Clemenza chiede l'aiuto di Vito per rubare un tappeto, che regala a Carmela.
I Corleone hanno altri tre figli: i figli Fredo e Michael e la figlia Connie. Nel frattempo, Vito, Clemenza e il nuovo socio Salvatore Tessio guadagnano rubando merci e rivendendole porta a porta. Questa attività attira l'attenzione di Fanucci, che li estorce. Vito convince i suoi scettici soci a convincere Fanucci ad accettare un pagamento minore. Durante una festa di quartiere, Vito paga a un Fanucci incredulo una somma molto inferiore e gli viene offerto un lavoro come esecutore. In seguito Vito uccide Fanucci nel suo appartamento. Vito diventa un membro formidabile e rispettato della comunità aiutando gli abitanti del luogo in cambio di "favori".
Nel 1923, Vito e la sua famiglia visitano la Sicilia, durante la quale lui e il suo socio d'affari fanno visita a Don Ciccio, apparentemente per chiedere la benedizione di Ciccio sulla loro attività di olio d'oliva. Ciccio chiede il nome del padre di Vito; Vito rivela la sua identità e pugnala Ciccio a morte, vendicando la sua famiglia.
Nel 1958, durante la festa di prima comunione del figlio al lago Tahoe, Michael ha una serie di incontri nel suo ruolo di boss della famiglia criminale Corleone. Frank Pentangeli, un capo dei Corleone, è sconcertato dal fatto che Michael si rifiuti di aiutarlo a difendere il suo territorio del Bronx contro i fratelli Rosato, che lavorano per Hyman Roth, un boss della mafia ebraica e socio d'affari di lunga data dei Corleone. Quella sera, un fallito attentato a casa sua spinge Michael a partire improvvisamente dopo aver confidato al consigliere Tom Hagen di sospettare un traditore all'interno della famiglia.
Michael sospetta che Roth abbia pianificato l'omicidio, ma dice falsamente a Roth che sospetta di Pentangeli. A New York, sotto le istruzioni di Michael, Pentangeli tenta di fare pace con i Rosato, ma questi cercano di ucciderlo.
Tornato in Nevada, Tom Hagen viene chiamato in un bordello di Carson City gestito dal fratello maggiore di Michael, Fredo, dove il senatore Geary è coinvolto nella morte di una prostituta e Tom si offre di occuparsi del problema in cambio dell'"amicizia" tra il senatore e la famiglia Corleone.
Un Roth malato, Michael e alcuni dei loro soci si recano all'Avana per discutere delle loro future prospettive commerciali cubane sotto il governo cooperativo di Fulgencio Batista. Michael è riluttante a continuare a operare a Cuba a causa della rivoluzione cubana in corso. A Capodanno, Fredo finge di non conoscere Johnny Ola, il braccio destro di Roth, ma in seguito rivela inavvertitamente che i due si conoscono, facendo capire a Michael che Fredo è il traditore. Michael ordina di colpire Ola e Roth; il suo esecutore strangola Ola con un appendiabiti ma viene ucciso dai soldati cubani mentre cerca di soffocare Roth. Batista abdica a causa dell'avanzata dei ribelli. Durante il caos che ne consegue, Michael, Fredo e Roth fuggono separatamente da Cuba. Tornato a casa, Michael viene informato che sua moglie Kay ha abortito.
A Washington, una commissione del Senato sul crimine organizzato sta indagando sulla famiglia Corleone. Pentangeli accetta di testimoniare contro Michael, che ritiene lo abbia tradito con i Rosato, e viene messo sotto protezione testimoni. Al ritorno in Nevada, Fredo dice a Michael che non sapeva che Roth avesse intenzione di ucciderlo, ma che non sopporta di essere considerato stupido dalla famiglia e che ritiene che avrebbe dovuto prendere le redini della famiglia dopo la morte del padre. Michael ripudia Fredo, ma gli ordina di non fargli del male finché la madre è viva. Michael manda a chiamare il fratello di Pentangeli dalla Sicilia e Pentangeli, dopo aver visto il fratello nella sala delle udienze, ritratta la sua precedente dichiarazione che incriminava Michael di criminalità organizzata; l'udienza si scioglie in un tumulto. Kay dichiara a Michael che in realtà ha avuto un aborto, non un aborto spontaneo, e che intende lasciarlo e prendere i loro figli. Indignato, Michael colpisce Kay, la bandisce dalla famiglia e prende la custodia esclusiva dei bambini.
Carmela muore poco dopo e Michael si affretta a chiudere le questioni in sospeso. Al funerale, Michael sembra perdonare Fredo per volere di Connie, ma si scambia uno sguardo con l'esecutore di Corleone Al Neri che suggerisce che Fredo deve essere ucciso. Poco dopo, Neri spara a Fredo mentre i due stanno pescando, mentre Michael guarda dalla sua tana. Roth è costretto a tornare negli Stati Uniti dopo che gli è stato rifiutato l'asilo e l'ingresso in Israele. Su ordine di Michael, Roth viene assassinato dal caporegime corleonese Rocco Lampone durante un'intervista all'aeroporto internazionale di Miami; Lampone viene ucciso a sua volta da un agente federale mentre tenta di fuggire dalla scena. Nella casa di Pentangeli, Hagen viene a trovarlo e i due discutono di come i complottisti falliti contro l'imperatore romano si siano spesso suicidati in cambio di clemenza per le loro famiglie; Pentangeli viene poi trovato morto nella sua vasca da bagno, dopo essersi tagliato le vene. Kay fa visita ai suoi figli; mentre li saluta, Michael arriva e le chiude la porta in faccia.
Il film si conclude con un flashback della festa per il 50° compleanno di Vito, che si svolge lo stesso giorno in cui i giapponesi bombardano Pearl Harbor. Mentre la famiglia aspetta di fare una sorpresa a Vito, Michael annuncia di aver abbandonato il college e di essersi arruolato nei Marines, facendo arrabbiare Sonny e Hagen; Fredo è l'unico membro della famiglia a sostenere la sua decisione. Nel presente, Michael siede da solo nella casa di famiglia e guarda il lago.