Sytuacja Romów w Bizancjum zaczęła się pogarszać wraz ze wzrostem potęgi Turków i związanego z nim poczucia zagrożenia. Romowie zaczęli być postrzegani jako obcy przybysze, którzy z racji pobytu w Azji Mniejszej mogli mieć kontakty z Turkami i służyć im jako szpiedzy. Dlatego już od XIII w. Romowie zaczynają się na Bałkanach przenosić coraz bardziej na północ: do Serbii, Bułgarii, Mołdawii i Wołoszczyzny. W tych dwóch ostatnich krainach Romowie stopniowo zamieniani są w niewolników, najpierw w dobrach kościelnych a następnie w prywatnych. Pozostali stawali się własnością państwa. O ile dwie pierwsze grupy były przymusowo osiedlane w kościelnych lub prywatnych dobrach, o tyle niewolnicy państwowi przenosili się z miejsca na miejsce w zależności od zapotrzebowania na siłę roboczą. Niewolnictwo na ziemiach rumuńskich (formalnie zniesione dopiero w połowie XIX w.) stanowiło bardzo ważny okres w historii Romów. Wiele podziałów grupowych bierze swój początek od różnych rodzajów prac, do których używano Romów. Również postawy otoczenia wobec Romów ukształtowały się w owym czasie, a słowo „Tigan” stało się w języku rumuńskim synonimem niewolnika.
Romowie, którzy pozostali na Bałkanach, dostawali się stopniowo w sferę wpływów tureckich. Inni ruszyli na północ, osiągając pod koniec XIV w. tereny królestwa Węgier, gdzie część z nich osiedliła się (głównie na terenach Słowacji, gdzie istniało duże zapotrzebowanie na usługi dostarczane przez Romów), część zaś ruszyła dalej poprzez Polskę (gdzie pierwsze wzmianki o Romach pochodzą z 1401 r.) i Czechy do Europy Zachodniej. Alternatywna droga do Europy zachodniej mogła prowadzić przez Półwysep Apeniński, z wykorzystaniem morskich szlaków, nad którymi sprawowała kontrolę Republika Wenecka.
Pojedyncze grupy romskie przenikają do Europy Zachodniej od końca XIV wieku, są jednak trudno zauważalne z racji znikomej liczebności i przyjętej strategii nie rzucania się w oczy. Sytuacja ta zmienia się w początkach trzeciej dekady XV w., kiedy to Romowie stają się widoczni, poruszając się w dużych i bogatych orszakach pod wodzą przywódców określanych jako „hrabiowie” lub „książęta”, ogłaszając swoje przybycie do miast, spotykając się z przedstawicielami władzy i uzyskując od nich „dokumenty podróżne” uprawniające do poruszania się na danym terenie i uzyskiwania pomocy. Ta nowa strategia, określana jest w literaturze jako „wielki podstęp”. Była ona oparta na wiedzy o obyczajowości i strukturze społecznej średniowiecznej Europy. Jej elementem było wykorzystywanie motywów religijnych, polegające na przedstawianiu się jako pokutujący za grzechy pielgrzymi.