12 marca 1938 r. dokonało się przyłączenie Austrii do II Rzeszy. Miejscowi naziści, wykorzystując duże pokłady antyromskich uczuć w społeczeństwie, natychmiast rozpoczęli prześladowania. W Austrii w latach 30-tych żyło ok. 11 000 Romów, zdecydowana większość z nich w Burgenlandzie, gdzie w niektórych okręgach stanowili 25-50% populacji. Ich prześladowania były niezwykle brutalne, głównie dzięki silnym wpływom narodowego socjalizmu w Austrii w ogóle a w Burgenlandzie w szczególności. Władze administracyjne w Austrii nie kopiowały niemieckich regulacji prawnych lecz bardzo często wyprzedzały je w praktyce postępowania z Romami. W połowie 1939 r. władze dysponowały kartami identyfikacyjnymi ok. 8 000 Romów. Już w 1938 r. Austriaccy Sinti i Romowie zaczęli być deportowani do obozów koncentracyjnych w Niemczech. Pierwszy taki transport przybył z regionu Burgenland do Dachau w lecie 1938, następny, liczący ok. 3 tysiące osób, został w czerwcu 1939 skierowany do Dachau i Ravensbrück. Jesienią 1939 r. austriaccy Romowie więzieni w Dachau zostali przeniesieni do Buchenwaldu, gdzie jedna trzecia zmarła najbliższej zimy pracując w lokalnych kamieniołomach. Ci, którzy przeżyli, zostali w 1941 r. przeniesieni do Mauthausen.

Po ataku Niemiec na Polskę deportacje musiały zostać wstrzymane z powodu kłopotów z transportem. Tymczasowym rozwiązaniem były obozy internowania i obozy pracy. Jednym z nich był obóz w Lackenbach,. Największą grupę więźniów stanowili w nim Romowie z Burgenlandu, ale więziono w Lackenbach również Sinti z terenu całej Austrii, w tym niemieckich Sinti, którzy przywędrowali do Austrii przed wybuchem wojny. W obozie znalazły się również niewielkie grupy Romów z Węgier i Włoch. W sumie przez cały okres istnienia obozu przewinęło się przez niego ok. 4 000 osób.

Innym ważnym obozem austriackim dla Romów był Maxglan w Salzburgu, zlikwidowany w kwietniu 1943 r. po tym, jak prawie wszyscy jego więźniowie zostali wysłani do Auschwitz-Birkenau.

Romowie byli również więzieni w znajdującym się na terenie Austrii obozie koncentracyjnym Mauthausen. Krótko przed końcem wojny skierowano tam z Ravensbrück transport 450 romskich kobiet z dziećmi. Dzieci te zostały zamordowane natychmiast po przybyciu do obozu (Schwarz 1998: 243).

4 i 7 listopada 1941 r. miały miejsce dwa transporty więźniów z Lackenbach do Łodzi. W każdym transporcie znajdowało się 1 000 osób, głównie niezdolnych do pracy (ponad połowę stanowiły dzieci). Ogółem z terenu Austrii deportowano do Łodzi 5007 Romów w pięciu transportach. Zostali oni przewiezieni do getta łódzkiego, i umieszczeni  specjalnej części  getta, oddzielonej  innych za pomocą podwójnej linii zasieków z drutu kolczastego i szerokiego rowu z wodą.

Jedynie lekarze i osoby dostarczające żywność mogły przekraczać granicę oddzielającą miejsce rozlokowania Romów i resztę getta. Na początku swego istnienia sekcja romska łódzkiego getta była pozbawiona najbardziej nawet prymitywnych udogodnień sanitarnych. Wkrótce po osadzeniu tam austriackich Romów 613 osób zmarło wskutek epidemii tyfusu a wielu ginęło później z głodu i powodu nieludzkich warunków życia. Pozostali przy życiu zostali w końcu 1941 r. przewiezieni do obozu w Chełmnie nad Nerem, gdzie na początku stycznia 1942 r. zamordowano ich spalinami w specjalnie do tego celu przystosowanych ciężarówkach.

Z terenu Austrii odchodziły też transporty do KL Auschwitz, będące następstwem rozkazu Himmlera z 16 grudnia 1942. W ten właśnie sposób na przełomie marca i kwietnia 1943 r. wysłali zostali do Birkenau Romowie więzieni w Maxglan, co zakończyło istnienie tego obozu. Z terenu Austrii deportowano wówczas do Birkenau 2760 Romów. Przypuszcza się, że nazistowskich prześladowań nie przeżyło ok. 8 000 austriackich Romów i Sinti, czyli ponad dwie trzecie całej populacji. Obóz w Lackenbach istniał do marca 1945 r. Wyzwalający go żołnierze sowieccy znaleźli w nim ok. 600 więźniów, którzy ocaleli ze względu na konieczność zapewnienia pogrążonej w kryzysie lokalnej gospodarce dodatkowych rąk do pracy.