Izrael először az 1952-es nyári olimpiai játékokon vett részt, onnantól az 1980-as moszkvai kivételével valamennyi nyári sportünnepen, majd 1994-től kezdődően az összes téli olimpián is képviseltette magát. Az 1972-es nyári játékokon a Fekete Szeptember palesztin terrorszervezet az izraeli csapat 11 tagját túszul ejtette, a túsz-szabadítási akció során valamennyiüket megölték.
Az izraeli sportolók eddig 13 érmet szereztek az olimpiákon, valamennyit a nyári játékokon. Ennél sokkal eredményesebbek a paralimpiákon, ahol az izraeliek 327 érmet szereztek, amelyből 113 arany.
Az Izraeli Olimpiai Bizottság1933-ban jött létre, ekkor még az állam neve Brit–Palesztina volt, a NOB1952-ben vette fel tagjai közé, a bizottság jelenlegi elnöke Zvi Varshaviak.