Pendirian Gereja Hati Kudus Yesus Surabaya terkait dengan Gereja Kelahiran Santa Perawan Maria yang sudah tidak mampu lagi menampung umat yang hadir. Pada pertemuan tahun 1911, calon lokasi gereja terdiri atas empat buah, yakni di daerah Tunjungan, Embong Wungu-Kaliasin, Tegalsari, dan Ketabang. Keempat lokasi tersebut tidak terwujud menjadi gereja pada saat itu. Pada tahun 1919, terdapat dua pilihan lokasi yang muncul, yakni di daerah Hoogendorplaan (kini Jalan Kartini) dan daerah Anita Boulevard (kini Jalan Polisi Istimewa). Lokasi di Jalan Anita Boulevard kemudian terpilih untuk didirikan gereja.
Perancangan desain gereja dilakukan oleh Ed Cypress Bureau, di mana rangka denah memiliki bentuk persegi panjang. Sementara itu, konstruksi bentuk basilika dilakukan oleh sebuah biro arsitek, yakni Huswit-Fermont. Pembangunan gereja mengeluarkan biaya 216.000 Gulden Belanda.[1] Upacara peletakan batu pertama gereja dilaksanakan pada tanggal 11 Agustus 1920 oleh R.P. Fleerakkers, S.J. Peresmian dan pemberkatan gereja dilaksanakan pada tanggal 21 Juli 1921 oleh Mgr. Edmundus Luypen, S.J., Vikaris Apostolik Batavia dan gereja ini diberi nama Gereja Hati Kudus Yesus Surabaya.
Gereja sempat direnovasi pada tahun 1951 oleh Mgr. Verhoeks, CM. Gereja kembali direnovasi setelah pelemparan granat oleh salah seorang anggota Partai Komunis Indonesia pada tanggal 15 Oktober 1967. Gereja ini ditetapkan sebagai bangunan cagar budaya oleh Pemerintah Kota Surabaya pada tahun 2013.
