Choć o podobnej grze w piłkę wspomina się nawet w starożytnych wierszach, za oficjalny rok narodzin piłki ręcznej uważa się rok 1898. Następnie rywalizacja drużynowa na prawie nowoczesnych zasadach została włączona do programu wychowania fizycznego jednej z duńskich szkół. Duńczykom przypisuje się również sam pomysł gry rękami z piłką i bramką – zawodnicy tego kraju wykorzystywali to do utrzymania formy zimą.
Pierwsze pojawienie się piłki ręcznej w programie olimpijskim miało miejsce na ostatnich letnich igrzyskach przed wybuchem II wojny światowej. W Berlinie grały jedenastoosobowe drużyny, a turniej wygrała drużyna gospodarzy. Ten sport powrócił na olimpijskie wakacje dopiero 36 lat później. I znowu stało się to w Niemczech – w Monachium rywalizowały męskie drużyny, które zgodnie z nowoczesnymi zasadami składały się z 7 zawodników. Wtedy zwycięzcą została reprezentacja Jugosławii. Już na kolejnych Igrzyskach Olimpijskich w Montrealu w Kanadzie do turnieju piłki ręcznej mężczyzn dodano turniej piłki ręcznej kobiet. W tym roku drużyny ZSRR okazały się silniejsze od swoich rywali zarówno w rywalizacji kobiet, jak i mężczyzn.
Drużyna kobiet radzieckich wygrała kolejny turniej olimpijski w 1980 roku w Moskwie, a drużyny Związku Radzieckiego czterokrotnie zdobywały złote medale i raz były srebrnymi i brązowymi medalistami. To najlepszy wskaźnik spośród wszystkich krajów uczestniczących w olimpijskich turniejach piłki ręcznej. Po zakończeniu istnienia Związku Radzieckiego zwycięską tradycję kontynuowały jako pierwsze drużyny złożone z zawodników z byłych republik ZSRR - każdy z nich zdobył jeden złoty i jeden brązowy medal. Następnie reprezentacje Rosji, które zdobyły po jednym medalu z każdej rangi, z powodzeniem grały na letnich igrzyskach.
Spośród innych krajów najwyższe wyniki osiągnęła Jugosławia, zdobywając na olimpiadach pięć medali różnych wyznań. Po upadku tego państwa jedna z dawnych republik kontynuowała swoje tradycje – reprezentacje Chorwacji dodały do listy jeszcze dwie złote nagrody. Zarówno Rosja, jak i Chorwacja mają wszelkie szanse na uzupełnienie swoich skarbonek medalami XXX Letnich Igrzysk Olimpijskich w Londynie - drużyny piłki ręcznej mężczyzn i kobiet z tych krajów otrzymały prawo do udziału w turniejach w 2012 roku.
