El club nasqué el 22 de maig de 1898 amb el nom FC Olympia Darmstadt. El 1919 s'anomenà breument Rasen-Sportverein Olympia abans d'unir-se amb el Darmstädter Sport Club 1905 l'11 de novembre del mateix any, esdevenint Sportverein Darmstadt 98. El Darmstädter Sport Club 1905 havia estat el resultat de la unió prèvia el 1905 entre Viktoria 1900 Darmstadt i Germania 1903 Darmstadt.
L'Olympia jugà a la Westkreisliga entre 1909 i 1913. A finals dels anys 20 i durant els 30 l'SV Darmstadt participà en la Kreisliga Odenwald i en la Bezirksliga Main-Hessen. El 1933, sota la reorganització del futbol alemany realitzada pel Tercer Reich, el club no ascendí a un dels grups de primera divisió fins al 1941, any en què ingressà a la Gauliga Hessen-Nassau. Durant les dècades dels anys 50, 60 i 70, el club participà majoritàriament a la segona categoria del futbol alemany, arribant a guanyar la Regionalliga Süd el 1973. Disputà dues temporades a la Bundesliga (1978-79 i 1981-82). Estigué a punt d'ascendir de nou el 1988 quan perdé una promoció amb l'SV Waldhof Mannheim a la pròrroga del tercer partit. L'any 1997 el club patí problemes financers i fou descendit a la Tercera i Quarta categories. Des de la temporada 2010-11 juga a la 3. Liga. La temporada 2012-13 evità el descens per la renúncia de Kickers Offenbach.[1]
