Zimbabwe az 1928-as nyári olimpiai játékokon vett először részt, Rodézia néven. 1960-ban és 1964-ben is ezen a néven indult, de ez mindhárom alkalommal valójában Dél-Rodéziát jelentette. Az ország függetlenségének elnyerését követően, először Zimbabwe néven az 1980-as játékokon szerepelt. A téli olimpiai játékokon először 2014-ben vett részt.
Sportolói nyolc érmet nyertek, ebből hetet az úszónő Kirsty Coventry.
A Zimbabwei Olimpiai Bizottság1934-ben jött létre, a NOB1980-ban vette fel tagjai sorába, a bizottság jelenlegi elnöke Admire Masenda.