Obok osadników niemieckich i robotników wywodzących się z okolicznych wsi zaczęli napływać tu, zwłaszcza po zbudowaniu kolei warszawsko-wiedeńskiej, pierwsi Żydzi. Na gruntach Rudy Guzowskiej (dawny folwark Mariampol) po wschodniej stronie obecnej ulicy Mireckiego powstała dzielnica, w której mieszkała większość żyrardowskich wyznawców judaizmu. Ich liczba w ciągu ostatnich 30. lat XIX wieku wzrosła z 70 osób do 3 tysięcy. Pod względem administracyjnym teren ten aż do 1916 roku należał do mającej wciąż status wsi Rudy Guzowskiej. 

Odrębny od chrześcijan tygodniowy rytm życia religijnego powodował, że Żydzi nie podejmowali pracy w fabryce — ich domeną pozostał handel i rzemiosło. Jądro dzielnicy znajdowało się w rejonie ulicy Wąskiej (obecnej Szulmana). W 1874 roku władze gubernialne zezwoliły na utworzenie w Rudzie Guzowskiej żydowskiej gminy religijnej. Pierwsza bóżnica powstała na Wąskiej, w prywatnym, drewnianym domu. Grunt pod cmentarz i bóżnicę niebawem sprezentował gminie hrabia Feliks Sobański. W późniejszych latach zgromadzenia modlitewne odbywały się także w domach bogatszych chasydów.

Pod koniec pierwszej dekady XX wieku do administracji rosyjskiej wniesiony został wniosek o nadanie osadzie praw miejskich. Wówczas to w Żyrardowie, Rudzie Guzowskiej, Mariampolu i Teklinowie żyć miało już 28 tysięcy osób, w tym 16% Żydów i 15% ewangelików (głównie Niemców) — status miasta otrzymał jednak Żyrardów dopiero w 1916 roku od okupacyjnych władz niemieckich. Do Żydów należała większość z ponad 370 sklepów i ponad 100 warsztatów rzemieślniczych, w tym 50 z ponad 60 warsztatów szewskich.

W okresie międzywojennym udział ludności żydowskiej utrzymywał się na poziomie 10–12%. Jej sytuacja ekonomiczna w porównaniu z początkiem stulecia uległa znacznemu pogorszeniu, podobnie jak całego miasta borykającego się z dotkliwym bezrobociem. Spośród żydowskich ugrupowań politycznych największymi wpływami cieszyły się ortodoksyjna Aguda, socjalistyczny Bund oraz syjoniści z prawicowej Mizrachi i socjaldemokratycznej Poalej Syjon. Przedstawiciele społeczności uczestniczyli w życiu samorządowym, zasiadając w Radzie Miasta.

Od 1910 roku działał w Żyrardowie nowoczesny cheder, do którego uczęszczało około 100 kilkuletnich chłopców. Obok nauki czytania i pisania po hebrajsku oraz recytowania z pamięci fragmentów Tory nauczano w nim elementów wiedzy świeckiej. Około 1918 roku powstała prywatna szkółka dla dzieci żydowskich — od roku szkolnego 1925/26 Szkoła Powszechna nosząca imię Elizy Orzeszkowej; uczyła się w niej w 99% młodzież żydowska, zajęcia odbywały się jednak w języku polskim. W mieście działały biblioteki — Cukunf (lewicowa) i Pereca (ortodoksyjna) oraz amatorskie kółko teatralne. Sportowców żydowskich skupiał klub Makabi.

Prześladowania ludności żydowskiej w Żyrardowie rozpoczęły się natychmiast po zajęciu miasta przez Wehrmacht w połowie września 1939 roku; w listopadzie Niemcy polecili utworzyć Judenrat (Radę Żydowską). W grudniu 1940 roku okupanci nakazali przeniesienie się wszystkich Żydów żyrardowskich do getta utworzonego w kwartale ulic: Mireckiego, Narutowicza, Okrzei i 1 Maja, gdzie rozlokowano także deportowanych z terenów wcielonych do Rzeszy i z mniejszych miejscowości powiatu błońskiego. Liczbę więźniów getta ocenia się na 5 tysięcy; nałożono na nich obowiązek pracy na rzecz okupanta. Najuboższych wspierał Komitet Pomocy Społecznej prowadzący między innymi darmową kuchnię. W styczniu następnego roku władze dystryktu warszawskiego rozpoczęły likwidację mniejszych gett i deportację ich ludności do getta w Warszawie — z żyrardowskiego do połowy lutego; w ogromnej większości Żydzi zostali potem zgładzeni w niemieckim nazistowskim obozie zagłady Treblinka. Po wojnie do Żyrardowa powrócili nieliczni, wiosną 1945 roku było ich około 20 — w większości opuścili miasto i Polskę w ciągu kilku następnych lat.

Cmentarz gminy żydowskiej w Żyrardowie u zbiegu obecnych ulic Mireckiego i Konopnickiej powstał prawdopodobnie po 1874 roku. Wcześniej Żydzi żyrardowscy chowali swoich zmarłych na cmentarzu w Wiskitkach. Współcześnie nekropolia zajmuje działkę w kształcie zbliżonym do trapezu o powierzchni 0,87 hektara. Do dziś na terenie cmentarza przetrwało około 150 nagrobków (najstarszy zidentyfikowany pochodzi z 1883 roku, najmłodszy z 1938 roku). Tylko częściowo zachował się rzędowy układ pochówków. Ze względu na artystyczne walory nagrobków cmentarz żydowski w Żyrardowie można uznać za jedną z ciekawszych nekropolii na Mazowszu. Macewy prezentują wysoki poziom sztuki kamieniarskiej. Zapewne nagrobki wykonywane były przez ten sam zakład kamieniarski, dziedziczony przez kolejne pokolenia. Oprócz tradycyjnych macew na cmentarzu można znaleźć też nagrobki o innej formie: obeliski z czarnego granitu na grobach miejscowych przemysłowców Oksnerów czy nagrobek w formie złamanego drzewa. Zwraca uwagę pomnik z czerwonego piaskowca z wyrytą ręką trzymającą młot, ustawiony na grobie Eliego Lubczyńskiego i Mendla Mejmana, poległych w czasie demonstracji robotników Żyrardowa w 1906 roku. W zdecydowanej większości epitafia ryto w języku hebrajskim. Cmentarz został w znacznej mierze zniszczony podczas drugiej wojny światowej przez Niemców, którzy wykorzystali wiele wyrwanych macew do utwardzenia ulic i dziedzińców.

Cmentarz, nieczynny od wojny, w następnych dekadach opuszczony i dewastowany, został formalnie zamknięty decyzją wojewódzkich władz administracyjnych w 1964 roku. Trzy lata później sumptem ocalałych żyrardowskich Żydów z całego świata nekropolia została uporządkowana i ogrodzona, odsłonięto na niej także pomnik ofiar Zagłady, wykonany w formie wysokiego obelisku, zwieńczonego płomieniem znicza.

18 lutego 1992 roku cmentarz został wpisany do rejestru zabytków pod nr. 868 A. 

Właściciel praw autorskich do opisu: Muzeum Historii Żydów Polskich POLIN