Knihovna vznikla v roce 1923 na základě 1. knihovnického zákona (Zákon o veřejných knihovnách obecních č. 430/1919 Sb. ze dne 22. července 1919). Povinnost obce zřídit obecní knihovnu stanovil již zmiňovaný zákon a na základě této skutečnosti se 28. května roku 1923 konala ve Fryštátě schůze knihovních výborů tří národností (Čechů, Poláků a Němců), kde byly projednány otázky finanční, právní a personální pro další fungování knihovny v obci.
S největší pravděpodobností byla zahájena činnost všech tří knihoven v jedné budově v Panském hotelu (později Hotelu Baník). Po roce 1928 rozvíjely sekce svou činnost samostatně a často měnily místa umístění svých knihoven.
V roce 1934 byla česká knihovna ve všech ukazatelích své činnosti považována za třetí největší knihovnu ve fryštátském okrese (za Orlovou a Petřvaldem).
Dlužno také podotknout, že pro rozvoj obecních knihoven se významně zasloužili tito členové knihovních rad:
za českou knihovnu : p. Kratochvíl, Tesař, Krůta
za polskou knihovnu : p. Rakus, Olszak, Guziur, Galuszka
za německou knihovnu : p. Dalpas, Gwuzd, Thunser
Lze také doložit, že další vývoj knižního fondu, čtenářů i výpůjček zaznamenal pozvolný leč trvalý růst.
Její vývoj byl však násilně přerušen událostmi 2. světové války.
Znovuotevření knihovny se uskutečnilo 4. června 1945 pod vedením učitele Jana Rohla a Jana Jelínka, kdy zveřejněním vyhlášky s prosbou o vrácení před válkou zapůjčených knih byl položen základní kámen k novodobé historii veřejné knihovny v Karviné.
V letech 1950 – 1992 nesla knihovna název Okresní knihovna Karviná, od 1. května 1992 byla přejmenována na Regionální knihovnu Karviná.
Zřizovatelem knihovny byl od roku 1950 Okresní úřad v Karviné a od 1. dubna 1996 Město Karviná, nyní statutární město Karviná.