Parafia w Żorach jest starsza niż miasto, istniała bowiem, gdy Żory były jeszcze wsią. Budowę kościoła parafialnego datuje się na przełom XIII i XIV wieku.
W późniejszym czasie kościołem parafialnym stał się kościół świętych Filipa i Jakuba. Budowla ta, wielokrotnie przebudowywana, zaczęła powstawać pod koniec XIV wieku. Być może całość lub jakąś jej część wzniesiono po roku 1583. W czasach reformacji została przejęta przez luteranów, a kapłani katoliccy nie mogli sprawować obowiązków i opuścili miasto. W r. 1629 świątynia wróciła w ręce katolików. W połowie XVII w. do dotychczasowych trzech dzwonów dodano trzeci „Filip i Jakub”. Druga połowa XVII w. oraz początek XVIII okazały się dla Żor tragiczne. W dwóch wielkich pożarach, z których jeden niemal doszczętnie spalił miasto, ucierpiał także kościół. Podczas pożaru w 1661 roku w palącym się kościele runęło sklepienie, a dzwony uległy stopieniu.
Odbudowa objęła dwa etapy, za dwóch kolejnych proboszczów, Hallatscha i Mansena. Bryła zrekonstruowanego kościoła różniła się znacznie od starej. Ustawiono także nowy ołtarz, ufundowano organy, odbudowano ołtarze boczne. Drugi pożar w 1702 r. strawił dach i wierzchołek wieży. Kilkakrotnie w kościół uderzały pioruny. W latach międzywojennych kościół znalazł się w rejestrze zabytków. Zniszczony mocno w czasie II wojny, odbudowany został w latach 1946-1950.
Trzynawowa budowla o długości 26,5 i wysokości 12 m posiada sklepienie podparte sześcioma filarami. Wewnątrz znajduje się cenne wyposażenie: obrazy, rzeźby i sprzęty. W prezbiterium zobaczymy obraz Matki Bożej Miłosierdzia pochodzący z 1690 roku. Obecny wystrój zaprojektował Zbigniew Wzorek, architekt z Krakowa. Od południa do budowli przylega okrągła, nakryta kopułą kaplica Matki Bożej, ukończona w roku 1690. Wewnątrz znajdują się epitafia pochowanych w podziemiach: burmistrza Wacława Linka, fundatora kaplicy i jego żony Justyny. Obok kościoła stoi wzniesiony w XVII w. krzyż Bożej Męki. W pierwszej połowie XIX w. przy kościele powstał cmentarz, na którym znajduje się zabytkowy krzyż pokutny.
