Najstarsza zachowana informacja źródłowa o mieszkających tu Żydach, przybyłych prawdopodobnie z pobliskiego Kazimierza pochodzi z 1571 roku.

Brak źródeł z okresu uniemożliwia prześledzenie demograficznego rozwoju społeczności żydowskiej w Janowcu, wiadomo jednak, iż w II połowie XVI w. powstał tu kahał, podejmujący autonomiczne decyzje w sprawach dotyczących religii, kultu, sądownictwa, szkolnictwa i pomocy społecznej. Jeszcze przed 1580 r. założono cmentarz i zbudowano bożnicę, nie wiadomo jednak, czy była to budowla drewniana, czy murowana. W ordynacji z 1580 r. Andrzej Firlej potwierdził prawo kupowania przez Żydów gruntów i budynków w mieście, zezwolił też wyznawcom religii mojżeszowej na zajmowanie się handlem i rzemiosłem oraz na prowadzenie wyrobu trunków. Żydzi nie mieli jednak obywatelstwa miejskiego, a tym samym pozbawieni byli praw wyborczych. Osobne przywileje dla gminy żydowskiej wydał starosta lubelski, podskarbi wielki koronny Jan Firlej. Potwierdził on prawo do zakupu przez Żydów ziemi i budowania domów, zarówno w rynku, jak i na terenie całego miasta.

W I poł. XVII w. kupcy żydowscy z Janowca, podobnie jak kupcy chrześcijańscy brali czynny udział w handlu zbożem. Zajmowali się spławianiem do Gdańska takich towarów jak skóry, wosk i płótno oraz sprowadzaniem stamtąd śledzi, korzeni, wina i octu.

W 1655 r. wcześniejsze przywileje Żydów janowieckich potwierdził kolejny właściciel Jerzy Sebastian Lubomirski, regulując jednocześnie sytuację prawną ludności żydowskiej w Janowcu. Zezwolił Żydom na swobodny handel ziemią i wszelkimi towarami, a także na szynkowanie miodów, win i piwa, za co mieli płacić podatki na równi z chrześcijańskimi mieszkańcami miasta. Zwolnił miejscowych Żydów od obowiązkowego udziału w naprawach dróg i ulic, wprowadzając w zamian czynsz płacony przez komorników żydowskich. Lubomirski podkreślał też w swym przywileju, iż żyjąca w jego włościach ludność żydowska znajduje się pod jego szczególną opieką. Zobowiązał tym samym władze miejskie i urzędników zamkowych do udzielania janowieckim Żydom wszelkiej pomocy oraz ochrony w przypadku znieważenia.

Wiadomo, iż w 1662 r. kahał janowiecki obejmował miasto wraz z przyległościami, brakuje jednak informacji dotyczących działalności gminnych instytucji, a także personaliów tutejszych rabinów. Szczegółowych informacji odnośne liczebności janowieckiej gminy żydowskiej dostarczają dokumenty pochodzące dopiero z II połowy XVII wieku. W 1662 r. pogłówne opłacało 58 Żydów, w 1674 r. – 61, zaś w 1748 r. – już 362.

Choć pod koniec XVIII w. miasto było w stosunkowo dobrej sytuacji ekonomicznej, miało ono wówczas już niemal wyłącznie wiejski charakter. Mieszkali tu głównie chrześcijanie zajmujący się rolnictwem oraz Żydzi, zajmujący się handlem i karczmarstwem w dobrach janowieckich. W Janowcu osiedlało się także wielu Żydów wypieranych z miast królewskich i migrujących z Ukrainy, objętej wówczas narastającymi konfliktami na tle etnicznym. Spisy podatkowe z lat 1765–1790 wskazują, iż w Janowcu mieszkało 175 Żydów, wśród których było: 8 krawców, 6 rzeźników, 2 złotników, 3 czapników, 2 bakałarzy, kupiec, szklarz, piekarz, cyrulik, garncarz, szkolnik i stróż. W miasteczku znajdowały się 53 budowle należące do Żydów, w tym bożnica.

Po 1810 r., w okresie gdy Janowiec należał do zaboru austriackiego, miejscowym Żydom, podobnie jak w innych miejscowościach, nadawano nazwiska; jednakże w księgach metrykalnych Janowca zapisywano je dopiero od 1821 r., po wydaniu przez rosyjskie władze zaborcze stosownego zarządzenia. W XIX w. rosyjska administracja poświęciła wiele uwagi na kontrolowanie działalności żydowskich gmin wyznaniowych, noszących wówczas nazwę dozorów bożniczych. Powstało wówczas wiele zachowanych do dziś dokumentów, z których wiadomo m.in., że w 1827 r. w Janowcu mieszkało około 300 Żydów, stanowiących niemal 33% ogółu mieszkańców.

W 1862 r., kiedy to Żydom w całym Królestwie Polskim nadano częściowe równouprawnienie, w Janowcu mieszkało około 360 osób wyznania mojżeszowego, stanowiących 36,5% populacji miasta. Jak wynika z zapisów w księgach metrykalnych Janowca, w poł. XIX w. wśród Żydów janowieckich najwięcej osób handlowało bydłem, skórami i solą, drewnem, mąką, wełną i zbożem, a także artykułami korzennymi i spożywczymi. Janowieccy Żydzi zajmowali się także arendowaniem wiatraków i młynów, zarówno w samym Janowcu, jak i na terenie całej gminy janowieckiej: w Łaguszowie, Oblasach, Górze Puławskiej, Łagowie, Janowicach, Rudkach, Baryczce. Najczęściej uprawianym rzemiosłem było krawiectwo, a stosunkowo rzadkim – w przeciwieństwie do wielu innych gmin – szewstwo. Było też kilku czapników i jeden kuśnierz oraz kilku rzeźników. Piekarstwem zajmowała się rodzina Eisenów, furmaństwem – rodzina Nissenbaumów. Ważną postacią w gminie był też cyrulik (felczer). Żydzi zajmowali się także przewozem przez Wisłę, wyrobem smoły i produkcją wina, a także karczmarstwem i szynkarstwem trunków. W dokumentach z połowy XIX w. wzmiankowane są wreszcie rodziny żydowskich rolników. Żydówki janowieckie pracowały jako akuszerki, a także jako handlarki drobiem i nabiałem.

Choć nie znajduje to szerszego potwierdzenia w źródłach, można przypuszczać, iż w II połowie XIX w. do Janowca mogły przenikać idee chasydyzmu, docierające tu z sąsiedniego Kazimierza, gdzie działał wówczas słynny cadyk Ezechiel Taub, zwłaszcza, że jeden z jego synów osiadł w pobliskim Zwoleniu, gdzie założył własną dynastię.

W okresie międzywojennym Janowiec był jednym z typowych sztetli, w którym mieszkali obok siebie chrześcijanie i Żydzi. W jego strukturze przestrzenno-urbanistycznej dominowały dwa obiekty sakralne – synagoga i kościół, a w śródmieściu istniały dwa rynki – główny i żydowski. Ludność katolicka mieszkała głównie w zachodniej części Janowca, której oś stanowiła ul. Radomska, zamknięta założonym w XIX w. katolickim cmentarzem. Dzielnica żydowska rozciągała się we wschodniej części miasta, wzdłuż ul. Kościelnej i Młynarskiej, prowadzącej w kierunku przeprawy przez Wisłę. Przy rynku wschodnim znajdowała się murowana synagoga, bet midrasz (dom nauki i modlitwy), mykwa, rytualna rzeźnia, a miasto od strony wschodniej zamykał kirkut.

Podczas okupacji niemieckiej, która rozpoczęła się wraz z drugą wojną światową we wrześniu 1939 r., Żydzi janowieccy podzielili los całej społeczności żydowskiej w Polsce. Janowiec, wraz z innymi miejscowościami znajdującymi się na lewym brzegu Wisły, znalazł się w należącym do Generalnego Gubernatorstwa dystrykcie radomskim. Już w październiku 1939 r. wszyscy Żydzi w wieku 14–60 lat zostali objęci przymusem pracy, w listopadzie 1939 r. wprowadzono nakaz noszenia opasek z tzw. Gwiazdą Dawida, a także oznaczono tym symbolem wszystkie przedsiębiorstwa należące do Żydów.

W październiku 1940 r. Niemcy spalili budynek bożnicy wraz z cennymi księgami i dokumentami. Ocalał wówczas stojący obok bożnicy bet midrasz, z wydzielonym mieszkaniem rabina, jednak został on zniszczony w 1942 r. Sprofanowano również cmentarz, niszcząc macewy, które wykorzystano do utwardzania drogi i budowania przepustów na rzeczce Nieciecz. Wojnę przetrwała jedynie mykwa, znajdująca się w dużej odległości od bożnicy.

Utworzone w 1940 r. getto janowieckie obejmowało teren całego miasteczka, co było skutkiem niemożności oddzielenia ludności chrześcijańskiej od ludności żydowskiej. Wiosną 1940 r., po zamknięciu dla ruchu cywilnego mostu w Puławach, jedyna trasa przeprawy przez Wisłę przebiegała pomiędzy Janowcem a pobliskim Kazimierzem. Rejon ten stał się szybko miejscem napływu licznej rzeszy wysiedleńców, pragnących przekroczyć granicę pomiędzy dystryktem radomskim a lubelskim. Wielu uchodźców z większych miast osiedlało się tu na stałe, widząc w pozostaniu na spokojnej prowincji większe szanse na przetrwanie. Wśród przybyszów przeważali nędzarze, chorzy i osoby nieposiadające żadnych środków do życia.

W połowie 1941 r. sytuacja ludności żydowskiej w Janowcu była dramatyczna. Panowała ogromna ciasnota, głód, szerzyły się epidemie, brakowało odzieży i obuwia. W tych warunkach rodziły się jednak inicjatywy społeczne, mające nieść pomoc najbardziej potrzebującym. Społecznicy janowieccy skupili się w działającym prawdopodobnie od maja 1941 r. Komitecie Pomocy Uchodźcom i Ubogiej Ludności, działającym przy miejscowym Judenracie. Działalność Komitetu stała się punktem wyjścia do stworzenia w Janowcu w lipcu 1942 r. Delegatury Żydowskiej Samopomocy Społecznej (ŻSS), koordynującej działalność charytatywną i opiekuńczą w Generalnym Gubernatorstwie. Z inicjatywy janowieckiej młodzieży działała tu także tania kuchnia, wydająca dziennie 17 posiłków dla najbardziej potrzebujących. Pod koniec lipca uruchomiono szpital chorób zakaźnych, pozbawiony jednak leków i dysponujący zaledwie 15 miejscami.

Pomimo podejmowanych prób pomocowych, na przełomie 1941 i 1942 r., sytuacja janowieckich Żydów była bardzo trudna, a z miesiąca na miesiąc ulegała dalszemu pogorszeniu. Było to związane m.in. z ogromnym przeludnieniem tutejszego getta, w którym w czerwcu przebywało około 2 tys. Żydów, tj. pięciokrotnie więcej niż przed wybuchem wojny.

Decyzję o likwidacji janowieckiego getta władze policyjne dystryktu radomskiego podjęły po koniec sierpnia 1942 roku. Żydzi zostali najpierw przesiedleni do Zwolenia. Część z nich została prawdopodobnie wcielona do grup robotników przymusowych, wysyłanych stąd do obozów pracy w Skarżysku-Kamiennej, Dęblinie i Kurowie. Przeważająca większość została skierowana w 29.09.1942 r., wraz z mieszkańcami getta w Zwoleniu, do niemieckiego nazistowskiego obozu zagłady Treblinka.

Cmentarz żydowski w Janowcu powstał w trzeciej ćwierci XVI w., co pozwala zaliczyć go do najstarszych tego typu obiektów w regionie. Zamykał on miasto, a zarazem dzielnicę żydowską, od strony wschodniej. Cmentarz został sprofanowany i zniszczony w czasie II wojny światowej przez Niemców, a znajdujące się tu macewy wykorzystano do utwardzania ulic oraz do regulacji rzeczki Nieciecz. Rozebrano też wówczas ogrodzenie i dom pogrzebowy, a część terenu cmentarza przekształcono w prywatne działki. W późniejszym okresie teren cmentarza został zniwelowany w czasie utwardzania sąsiadującej z nim ulicy.

W 2001 r. Towarzystwo Przyjaciół Janowca nad Wisłą przygotowało projekt rewaloryzacji terenu cmentarza i rozpoczęło akcję zbierania rozproszonych macew, z których żadna nie zachowała się w swym pierwotnym miejscu. W 2021 roku na cmentarzu ustawiono pomnik z wykonany płyt stalowych na którym obok inskrypcji i fragmentów macew zamontowano pamiątkową tablicę programu „Oznakowanie cmentarzy żydowskich w Rzeczypospolitej Polskiej”.