Under Anden Verdenskrig (1939-1945) havde den tyske hær og Waffen-SS, på trods af den folkelige opfattelse, at de var fuldt motoriserede, flere kavalerienheder til deres rådighed. Kronologisk set var den første kavaleridivision 1. kavaleridivision, der kæmpede på østfronten i årene 1941-1942 som en del af general Guderians panserstyrker, og i 1942 blev omdannet til 24. panserdivision. I første halvdel af 1943 havde den tyske hær dog tre selvstændige kavaleriregimenter, som dog i høj grad var baseret på motoriseret udstyr. I 1944 oprettede disse regimenter sammen med den ungarske kavaleridivision et kavalerikorps, der tjente i Hviderusland. Det er også værd at tilføje, at relativt mange kavalerienheder blev oprettet som en del af Waffen-SS. Man kan her for eksempel nævne SS Kavaleri Brigade, som senere blev omdannet til 8. SS Kavaleri Division. Kosakkenheder blev også dannet i det tyske kavaleri - fx 1. kosakkavaleridivision.
1. Kavaleridivision blev dannet kort efter septemberkampagnen (i slutningen af oktober 1939) på basis af 1. Kavaleribrigade. Sidstnævnte blev til gengæld dannet i 1938 på grundlag af de tyske kavaleriregimenter, der endnu ikke var blevet omdannet til motoriserede eller mekaniserede enheder. Stedet, hvor brigaden blev dannet, var landsbyen Wystruć i Østpreussen. 1. Kavaleribrigade deltog aktivt i septemberkampagnen i 1939, og kæmpede som en del af Hærgruppen "Nord". Enheden tog en meget indirekte del i slaget ved Mława og nåede senere Maków Mazowiecki og kort derefter over Narew. Den 9. september lykkedes det brigadens enheder at erobre et brohoved på Bug River. Indtil den 16. september kæmpede hun i Radzymin-området og afsluttede sin deltagelse i septemberkampagnen med disse aktioner. Den 25. oktober blev 1. kavaleribrigade omdannet til 1. kavaleridivision. I 1940 deltog den i kampene på Vestfronten, og kæmpede i Belgien og Frankrig. Indtil sommeren 1941 var divisionen udstationeret i Frankrig med besættelsesopgaver, hvorefter den blev flyttet mod øst. Helt fra begyndelsen deltog divisionen i Operation Barbarossa, kæmpede som en del af XXIV Corps, kæmpede hovedsageligt i området ved Pripyat-floden. I november 1941 blev den overført til Frankrig og omdannet til den 24. panserdivision.