Arminia er mest kendt som Europas største elevatorhold, der rykker op og ned mellem Bundesligaen og 2. Bundesliga (7 gange er de rykket op, 6 gange er de rykket ned).
Første gang, klubben gjorde opmærksom på sig selv, var, da den i 1913 var med ved finalerunden om det vesttyske mesterskab (der var den gang også regionale mesterskaber i Tyskland og har altså intet med det senere land Vesttyskland at gøre).
I 1969 kunne klubben for første gang kaldes et Bundesligahold, men allerede i 1971 rykkede klubben ud igen. I slutningen af 70'erne og starten af 80'erne var klubben fast inventar i Bundesligaen, men i 1984 rykkede man ned i 2. Bundesliga og i 1987 helt ned i Regionalligaen. I 1994 og 1995 sikrede to oprykninger i træk dog klubben Bundesligastatus på ny. Herefter begyndte klubben at få sit ry som elevatorholdet over dem alle. i 2008-09 sæsonen var klubben senest i Bundesligaen.