Nato all'alba del ventesimo secolo da una famiglia di origini ebraiche che andò in bancarotta dopo il tremendo terremoto di San Francisco del 1906, il giovane Mervyn LeRoy tentò di guadagnarsi da vivere vendendo giornali e recitando al vaudeville. Approdò a Hollywood grazie all'intervento di suo cugino, il produttore Jesse Lasky, e intraprese una lunga gavetta presso gli studios, cimentandosi in svariate attività: attore all'epoca del muto, costumista, sceneggiatore, gag-man e assistente alla regia.
Esordì dietro la macchina da presa nel 1927 con la commedia romantica No Place to Go, cui seguirono numerosi titoli - in particolare commedie sentimentali interpretate dalla diva dell'epoca Alice White come Monella bionda, La studentessa dinamica, Ragazze d'America, Vertigine del lusso, Show Girl in Hollywood - che ottennero dei cospicui incassi, a fronte di costi di realizzazione contenuti.
Il primo titolo per cui è ricordato è però lo spietato gangster movie Piccolo Cesare (1930), che portò all'apice del successo il protagonista Edward G. Robinson, cui fecero seguito altre pietre miliari del genere, come Io sono un evaso (1932) film particolarmente crudo che narra le vicende di un innocente (uno straordinario Paul Muni, suo attore feticcio che diresse anche nei drammi Il mondo cambia e L'imprevisto) rinchiuso in carcere e torturato dalle guardie, e Vendetta (1937), un capolavoro del noir impegnato. La sua incredibile versatilità e conoscenza tecnica gli permisero di eccellere anche in altri generi, in particolare la commedia (L'affare si complica, con James Cagney) e il musical (La danza delle luci, coreografato dal maestro Busby Berkeley e Il piacere dello scandalo con Carole Lombard).
Nel 1938 LeRoy divenne direttore di produzione della Metro-Goldwyn-Mayer, dove fu responsabile di numerosi successi di pubblico, come Il mago di Oz e Tre pazzi a zonzo, e scoprì svariate future star, tra cui Clark Gable, Loretta Young, Robert Mitchum e Lana Turner.
Tornò dietro la macchina da presa introno agli anni Quaranta e i Cinquanta, continuando a dare prova del proprio eclettismo, ottenendo successi nei generi commedia (La nave matta di Mr. Roberts, con Henry Fonda e Jack Lemmon, l'esilarante Tempi brutti per i sergenti); musical (Modelle di lusso, La ninfa degli antipodi, con la diva acquatica Esther Williams, Amanti latini con Lana Turner e Rose Marie); melodramma (Prigionieri del passato, che gli valse una nomination all'Oscar, la trasposizione di Piccole donne con Elizabeth Taylor, lo strappalacrime Il ponte di Waterloo con Vivien Leigh, e il cupo I marciapiedi di New York con James Mason e Barbara Stanwyck, lo psicologico Pietà per la carne con Jean Simmons); thriller (Sono un agente FBI con James Stewart, l'impressionante Il Giglio nero); western (La straniera) e persino nel famoso peplum Quo vadis? del 1951.
LeRoy continuò a dirigere anche negli anni Sessanta, realizzando ancora alcuni titoli di successo, come il brillante La donna che inventò lo strip-tease, con le sensuali Rosalinde Russell e Natalie Wood, Il molto onorevole ministro con Alec Guinness nei buffi panni di un diplomatico giapponese, Te la senti stasera?, e l'esotico Il diavolo alle 4 con Spencer Tracy e Frank Sinatra. La sua ultima regia fu in collaborazione con John Wayne per Berretti verdi nel 1968.
Mervyn LeRoy vinse un Oscar speciale nel 1945 per il cortometraggio The House I Live In con protagonista Frank Sinatra e nel 1976 venne insignito del Irving G. Thalberg Memorial Award.
1943 Candidatura Miglior regia per Prigionieri del passato
1963 Candidatura Miglior regista per La Donna che inventò lo strip-tease
1957 Premio Premio Speciale Cecil B. DeMille
1956 Candidatura Miglior regista per La nave matta di Mr. Roberts
1952 Candidatura Miglior regista per Quo Vadis?
1962 Regia, Produzione
1955 Regia
1951 Regia
1939 Produzione