A város neve török eredetű jelentése bika, melyet első birtokosáról Bajáról kaphatott. Ásatások alapján területe az újkőkor óta lakott. Első okleveles említése 1323-ból származik.
Már az Árpád-korban fontos átkelőhely volt a Dunánál. Palánkvára a törökök uralma alatt volt a mohácsi csatától 1687-ig. Városi rangot 1696. december 24-én nyert I. Lipóttól. Címere ezen dátum miatt ábrázolja a bibliai Ádámot és Évát.
Mezővárosi rangot 1696 karácsonyán kapott. A vasút megjelenése előtt a Duna volt a kereskedelem fő útvonala a városban. Jelentős közlekedési csomópontként tartják számon Duna-hídja (mely 1907-ben épült), valamint folyami kikötője miatt. Három nagy tájegység, a Duna-ártér, a Kiskunsági homokhátság és a Felső-bácskai löszhát találkozásánál épült. A legfontosabb déli átkelőhely a Dunán.
Akkortájt hozzátartoztak a tájhoz a vízimalmok, a hajók, a kikötő. A város környéki folyóvizek homokos és zátonyos partjai fürdésre, kirándulásra alkalmas területeket kínálnak, de hódolhatnak szenvedélyüknek itt a vízi sportok szerelmesei is.
1739-ben pestisjárvány, 1751-ben árvíz és 1840-ben tűzvész pusztított. 1920 és 1950 között Bács-Bodrog vármegye székhelye volt.