Oliver Norvell Hardy est né le 18 janvier 1892 à Harlem, Georgie, dans une famille nombreuse. À l'âge de 2 ans, Oliver perd son père et sera élevé par sa mère Emilly Norvell. Il suit une scolarité normale et se passionne pour le chant lyrique. Sa mère l’encourage, mais la perspective de devenir chanteur professionnel ne l'enchante guère. Il poursuit son cursus scolaire et décroche son diplôme d'avocat — profession qu'il n'exercera pas.
En 1910, Oliver découvre le cinéma, il ouvre dans la foulée une salle de cinéma. Vers 1913-1914, il passe devant la caméra et débute dans des rôles de « méchants ». Entre 1913 et 1916, il apparaît dans plus de quatre cents films muets, il fait merveille dans les rôles de traître. La nuit "babe" (surnom d'Oliver) chante dans les cabarets, à la même époque il devient Franc-maçon. Comme Stan Laurel, Oliver travaille derrière la caméra et apprend ainsi les techniques de fabrication d'un film.
En 1926, Oliver rencontre Sally, son épouse.
Oliver Hardy est mort d'un infarctus cérébral le 7 août 1957 à Hollywood.
Il est bien sur impossible de parler d'Oliver Hardy sans mentionner son complice Stan Laurel avec qui il forma le duo le plus célèbre du cinéma. Leur première rencontre à l'écran eut lieu en 1917 dans A Lucky Dog, ils partagèrent ensuite l'affiche dans des films produits par Hal Roach durant les années 1920. Le duo se forma officiellement à l'occasion du film The Second Hundred Years en 1927.