Sergio Leone est le fils de Vincenzo Leone dit Roberto Roberti, pionnier du cinéma italien réduit au chômage du fait de son opposition au fascisme, et de l’actrice Bice Waleran (Edwige Valcarenghi de son vrai nom). Son père réalise le premier western italien, La Vampire indienne en 1913, dans lequel sa mère tient le rôle de l’Indienne. Par la suite, président des réalisateurs italiens, il réalise de nombreux films avec l’actrice Francesca Bertini et fait débuter l’acteur Lido Manetti. Sergio naît après 14 années de mariage du couple ; son parrain est le réalisateur italien Mario Camerini. Il fait ses études chez les Frères Saint-Jean-Baptiste-de-La-Salle, où il est un élève moyen. Enfant, il connaît la Seconde Guerre mondiale à travers les fumetti, des bandes dessinées italiennes qu’il lit beaucoup. En 1941, son père lui fait jouer le rôle d’un enfant dans La bocca sulla strada.
Il finit ses études à 18 ans et commence sa carrière dans le cinéma comme assistant pour Carmine Gallone dans l’adaptation d’opéras (que Leone abhorre) : Rigoletto, La forza del destino et La leggenda di Faust. En 1948, il fait de la figuration et assiste le réalisateur Vittorio De Sica dans Le Voleur de bicyclette. Par la suite, il assiste des metteurs en scène italiens tels que Mario Bonnard, Mario Camerini ou malgré son mauvais anglais les Américains Robert Wise, Fred Zinnemann et même William Wyler pour Ben-Hur (1959). Il commence réellement sa carrière de réalisateur en mettant en scène le péplum Les Derniers Jours de Pompéi (1959) en remplacement de Mario Bonnard, tombé malade. En 1960, il se marie avec Carla, une ballerine avec laquelle il a trois enfants : Raffaella, Francesca et Andrea.
Il réalise un autre péplum, Le Colosse de Rhodes (1961), avec Rory Calhoun et Lea Massari. L’année suivante, il est réalisateur de seconde équipe sur Sodome et Gomorrhe (1962) de Robert Aldrich, mais le tournage se passe très mal et Leone démissionne. Alors que le western américain est en plein déclin, il participe au développement du western spaghetti (ou western italien) ; il déclare d’ailleurs : « Ce mot de « spaghetti-western », c’est un des plus cons que j’ai jamais entendus de ma vie ». Ainsi plus de 400 westerns italiens sont tournés entre 1964 et 1973. À propos du western méditerranéen qui se réappropriait le mythe américain, Leone déclarait : « Agamemnon, Ajax, Hector, sont les archétypes des cow-boys d’hier : égocentriques, indépendants, héroïques, fripouilles, et tout ça en grand, à des dimensions mythiques».
Leone réalise Pour une poignée de dollars (1964), un remake d’un film japonais d’Akira Kurosawa, Le Garde du corps (1961). L’histoire, presque point par point, est transposée du Japon féodal dans un univers western. D’après Leone, « la situation à laquelle j’ai surtout pensé pour ce film est connue, c’est celle d’une pièce de Goldoni, Arlequin serviteur de deux maîtres. Avec le western, vous pouvez traiter tous les sujets classiques déjà rencontrés dans le théâtre ou la littérature de tous les pays ». Pour ce film, il utilise le pseudonyme de Bob Robertson (l’américanisation du nom est monnaie courante à l’époque pour les réalisateurs désirant percer aux États-Unis).
Le tournage a lieu en Espagne et au studio de Cinecittà pour les intérieurs, pour un budget de 120 millions de lires réparti ainsi : un tiers pour l’Italie, un tiers pour l’Espagne et un tiers pour l’Allemagne de l’Ouest. Leone désirait Henry Fonda, mais son agent ne lui fit pas lire le script, les producteurs proposaient Richard Harrison, mais Leone refusa, James Coburn accepta, mais son cachet (25 000 $US) fut jugé trop cher. Finalement c’est Clint Eastwood, acteur américain de la série Rawhide qui accepte pour un cachet de 15 000 $US. Gian Maria Volontè (dont le nom américanisé au générique est John Wells) est engagé pour 2 000 000 lires. Le succès est immense et fait découvrir, outre les acteurs, le costumier Carlo Simi et surtout le compositeur Ennio Morricone, ancien camarade de classe de Leone, dont le nom reste attaché au réalisateur et dont Leone dit : « il n’est pas mon musicien, il est mon scénariste ».
Leone signe la suite Et pour quelques dollars de plus (1965). Au casting, Lee Marvin est choisi pour rejoindre Clint Eastwood et Gian Maria Volontè, mais il se désiste trois jours avant le tournage pour jouer dans Cat Ballou (1965). C’est finalement Lee Van Cleef qui obtient le rôle; le trio est complété par Klaus Kinski. Pour ce film, Leone se documente énormément en consultant des livres sur l’Ouest américain et la Guerre de Sécession empruntés à la Bibliothèque du Congrès de Washington. Le budget est de 350 000 000 lires.
1966 marque le dernier volet de la Trilogie du dollar avec Le Bon, la Brute et le Truand (1966). Clint Eastwood est toujours présent (dans le rôle du « bon »), ainsi que Lee Van Cleef (la « brute ») ; ils partagent cette fois-ci l’affiche avec Eli Wallach (le « truand »). Le budget est d’un million de dollars américains. C’est à partir de ce film que Clint Eastwood devient une star aux États-Unis. C’est la première d’une série de collaborations fructueuses entre le directeur de la photographie Tonino Delli Colli et Sergio Leone. Eastwood lui propose alors de mettre en scène Pendez-les haut et court (1968); Leone refuse et c’est finalement Ted Post qui s’en chargera. La même chose se reproduit avec le film Sierra torride (1970) finalement mis en scène par Don Siegel.
Après cette trilogie, Leone veut adapter The Hoods de Harry Grey qui deviendra Il était une fois en Amérique (1984), mais les producteurs veulent tous que Leone fasse un western. Il tourne Il était une fois dans l’Ouest (1968), qui décrit la fin d’une grande époque, de la conquête de l’Ouest; le train arrive au bout de l’Ouest, amène la civilisation et le modernisme avec lui et met fin à la conquête. Le film annonce, comme chez Peckinpah, que l’Ouest est mort. Le film est tourné en 14 semaines en Italie, en Espagne et à Monument Valley, aux États-Unis.
Le film devait être lié à la trilogie précédente par la première scène de Il était une fois dans l’Ouest (1968). En effet, les trois personnages qui accueillent Charles Bronson à sa sortie du train devaient être interprétés par Clint Eastwood, Lee Van Cleef et Eli Wallach, interprètes des héros du film Le Bon, la Brute et le Truand (1966). Cependant Eastwood, dans un souci de respect de son image professionnelle, ne souhaitait pas mourir dès la première scène du film ; Sergio Leone n’a pas pu poursuivre cette idée malgré l’accord des deux autres comédiens. Le film entame une nouvelle trilogie, celle des Il était une fois…. Pour ce film Leone bénéficie d’une distribution impressionnante : Claudia Cardinale, Charles Bronson, Henry Fonda, Jason Robards et Gabriele Ferzetti. Le scénario est signé par Leone, Sergio Donati et deux futurs grands réalisateurs, Dario Argento et Bernardo Bertolucci. Le tournage est marqué par la mort de l’acteur Al Mulock qui se défenestre pendant le tournage.
C’est le deuxième volet de la seconde trilogie, Il était une fois la révolution (1971), avec Rod Steiger et James Coburn (Leone voulait Jason Robards et Malcolm McDowell au départ). Dans ce film, les protagonistes se retrouvent en pleine révolution (1913) dans une fable picaresque. Leone ne devait pas réaliser le film, mais uniquement le produire. Peter Bogdanovich, qui venait de réaliser La Cible (1968), est approché, mais le contact avec Leone se passe mal ; Sam Peckinpah accepte de tourner le film, mais les acteurs et la United Artists obligent Leone à réaliser le film, une semaine avant le début du tournage. Le scénario est alors réécrit dans l’urgence pour coller à l’univers du réalisateur. La relation avec Rod Steiger est très mauvaise au début du tournage. Cette année-là, il participe comme membre du jury officiel au Festival de Cannes 1971 sous la présidence de Michèle Morgan.
Il produit et tourne quelques scènes de Mon nom est Personne (1973) de Tonino Valerii, son ancien assistant, avec Henry Fonda et Terence Hill. Leone produit Un génie, deux associés, une cloche (1975), un western de Damiano Damiani. Terence Hill, à nouveau en tête d’affiche, est cette fois entouré de Miou-Miou et Robert Charlebois, bien qu’au départ Leone pensait engager le trio des Valseuses (1974): Depardieu, Dewaere et Miou-Miou. Le film déçoit tellement Leone qu’il décide de ne plus produire de western.
Il produit Qui a tué le chat ? (1977) de Luigi Comencini avec Ugo Tognazzi et Mariangela Melato et Un jouet dangereux (1979) de Giuliano Montaldo avec Nino Manfredi et Marlène Jobert. En 1978, il participe au jury de la Berlinale 1978 sous la présidence de Patricia Highsmith.
Sur les conseils de son ami Frédéric Rossif, Leone tourne quelques films publicitaires pour les glaces Gervais, la Renault 18, Europ Assistance ou Palmolive.
Leone tourne Il était une fois en Amérique (1984), film dont le chantier commence dès 1972. À l’origine, il est prévu avec Steve MacQueen, Paul Newman et James Cagney mais il est finalement interprété par Robert De Niro, James Woods et Treat Williams. Cette fois Leone change de registre: en effet, ce film n’est pas un western, mais un film de gangsters et il s’agit du seul film américain tourné par le réalisateur. Leone, dont les films sont toujours longs, réalise ici un record personnel avec une durée de 251 minutes (version la plus longue du film au 21 juin 2015). Le tournage se déroule à New York, Montréal, Paris, Venise, Côme et dans les studios de Cinecittà pendant 30 semaines. Pour des raisons syndicales, Leone est obligé d’employer une équipe de tournage américaine ; elle figure au générique du film, mais ne participe pas. Le film dépeint l’Amérique du temps de la prohibition et l’avènement du gangstérisme. Là encore, c’est aussi la fin d’une époque, la plus grande partie du film est constituée de flashbacks. Les deux principaux protagonistes entretiennent la « flamme », les codes qui étaient en vigueur dans leur jeunesse. Le film est bien reçu ; ainsi Christian Bosséno dans La Revue du cinéma écrit-il : « Une excellente utilisation de la durée, un scénario admirablement construit, un souci de reconstitution scrupuleux et impressionnant, une interprétation fascinante forcent l’admiration. »
Leone meurt le d’une crise cardiaque à l’âge de 60 ans, juste après avoir regardé un film de Robert Wise à la télévision.