Ibunya bernama Raudhah, seorang wanita kaya yang berasal dari keluarga Sagipodin. Ayahnya bernama K. H. Mas Achmad Marzoeqi berasal dari Keluarga Pesantren Sidoresmo Wonokromo Surabaya yang merupakan seorang pionir Islam, ahli agama yang terkenal di Jawa Timur pada masanya. Dia berasal dari keturunan bangsawan Astatinggi Sumenep, Madura. Dia dikenal sebagai imam tetap dan khatib di Masjid Ampel, suatu jabatan terhormat pada saat itu.
Pendidikan
Nyantri pada Kyai Kholil Bangkalan
Masa kecilnya dilalui dengan belajar agama pada ayahnya sendiri. Di samping itu, dia juga belajar di Pesantren Sidoresmo, dengan Kiai Muhammad Thaha sebagai gurunya. Pada tahun 1906, ketika Mas Mansur berusia sepuluh tahun, dia dikirim oleh ayahnya ke Pondok Pesantren Demangan, Bangkalan, Madura. Di sana, dia mengkaji Al-Qur'an dan mendalami kitab Alfiyah ibnu Malik kepada Kiai Khalil. Belum lama dia belajar di sana kurang lebih dua tahun, Kiai Khalil meninggal dunia, sehingga Mas Mansur meninggalkan pesantren itu Raka
Belajar di Mekkah dan Mesir
Sepulang dari Pondok Pesantren Demangan pada tahun 1908, oleh orang tuanya disarankan untuk menunaikan ibadah haji dan belajar di Makkah pada Kiai Mahfudz yang berasal dari Pondok Pesantren Termas Pacitan Jawa Timur. Setelah kurang lebih empat tahun belajar di sana, situasi politik di Saudi memaksanya pindah ke Mesir. Penguasa Arab Saudi, Syarif Hussen, mengeluarkan instruksi bahwa orang asing harus meninggalkan Makkah supaya tidak terlibat sengketa itu. Pada mulanya ayah Mas Mansoer tidak mengizinkannya ke Mesir, karena citra Mesir (Kairo) saat itu kurang baik di mata ayahnya, yaitu sebagai tempat bersenang-senang dan maksiat. Meskipun demikian, Mas Mansoer tetap melaksanakan keinginannya tanpa izin orang tuanya. Kepahitan dan kesulitan hidup karena tidak mendapatkan kiriman uang dari orang tuanya untuk biaya sekolah dan biaya hidup harus dijalaninya. Oleh karena itu, dia sering berpuasa Senin dan Kamis dan mendapatkan uang dan makanan dari masjid-masjid. Keadaan ini berlangsung kurang lebih satu tahun, dan setelah itu orang tuanya kembali mengiriminya dana untuk belajar di Mesir.
Di Mesir, dia belajar di Perguruan Tinggi Al-Azhar pada Syaikh Ahmad Maskawih. Suasana Mesir pada saat itu sedang gencar-gencarnya membangun dan menumbuhkan semangat kebangkitan nasionalisme dan pembaharuan. Banyak tokoh memupuk semangat rakyat Mesir, baik melalui media massa maupun pidato. Mas Mansoer juga memanfaatkan kondisi ini dengan membaca tulisan-tulisan yang tersebar di media massa dan mendengarkan pidato-pidatonya. Ia berada di Mesir selama kurang lebih dua tahun. Sebelum pulang ke tanah air, terlebih dulu dia singgah dulu di Makkah selama satu tahun dan pada tahun 1915 dia pulang ke Indonesia.
Menikah
Sepulang dari belajar di Mesir dan Makkah, ia menikah dengan puteri Haji Arif yaitu Siti Zakijah yang tinggalnya tidak jauh dari rumahnya. Dari hasil pernikahannya itu, mereka dikaruniai enam orang anak, yaitu Nafiah, Ainoerrafiq, Aminah, Mohammad Noeh, Ibrahim dan Loek-loek. Di samping menikah dengan Siti Zakijah, dia juga menikah dengan Halimah. Dia menjalani hidup dengan istri kedua ini tidak berlangsung lama, hanya dua tahun, karena pada tahun 1939 Halimah meninggal dunia.
Bergabung dengan Sarekat Islam
Langkah awal Mas Mansoer sepulang dari belajar di luar negeri ialah bergabung dalam Sarekat Islam. Peristiwa yang dia saksikan dan alami baik di Makkah, yaitu terjadinya pergolakan politik, maupun di Mesir, yaitu munculnya gerakan nasionalisme dan pembaharuan merupakan modal baginya untuk mengembangkan sayapnya dalam suatu organisasi. Pada saat itu, SI dipimpin oleh Oemar Said Tjokroaminoto, dan terkenal sebagai organisasi yang radikal dan revolusioner. Ia dipercaya sebagai Penasihat Pengurus Besar SI.
Taswir Al-Afkar
Di samping itu, Mas Mansoer juga membentuk majelis diskusi bersama Wahab Hasboellah yang diberi nama Taswir al-Afkar (Cakrawala Pemikiran). Terbentuknya majelis ini diilhami oleh Masyarakat Surabaya yang diselimuti kabut kekolotan. Masyarakat sulit diajak maju, bahkan mereka sulit menerima pemikiran baru yang berbeda dengan tradisi yang mereka pegang. Taswir al-Afkar merupakan tempat berkumpulnya para ulama Surabaya yang sebelumnya mereka mengadakan kegiatan pengajian di rumah atau di surau masing-masing. Masalah-masalah yang dibahas berkaitan dengan masalah-masalah yang bersifat keagamaan murni sampai masalah politik perjuangan melawan penjajah.
Aktivitas Taswir al-Afkar itu mengilhami lahirnya berbagai aktivitas lain di berbagai kota, seperti Nahdhah al-Wathan (Kebangkitan Tanah Air) yang menitikberatkan pada pendidikan. Sebagai kelanjutan Nahdhah al-Wathan, Mas Mansur dan Abdul Wahab Hasbullah mendirikan madrasah yang bernama Khitab al-Wathan (Mimbar Tanah Air), kemudian madrasah Ahl al-Wathan (Keluarga Tanah Air) di Wonokromo, Far'u al-Wathan (Cabang Tanah Air) di Gresik dan Hidayah al-Wathan (Petunjuk Tanah Air) di Jombang. Kalau diamati dari nama yang mereka munculkan, yaitu wathan yang berarti tanah air, maka dapat diketahui bahwa kecintaan mereka terhadap tanah air sangat besar. Mereka berusaha mencerdaskan bangsa Indonesia dan berusaha mengajak mereka untuk membebaskan tanah air dari belenggu penjajah. Pemerintahan sendiri tanpa campur tangan bangsa lain itulah yang mereka harapkan.
Taswir al-Afkar merupakan wadah yang diskusinya mau tidak mau permasalahan yang mereka diskusikan merembet pada masalah khilafiyah, ijtihad, dan madzhab. Terjadinya perbedaan pendapat antara Mas Mansoer dengan Abdoel Wahab Hasboellah mengenai masalah-masalah tersebut yang menyebabkan Mas Mansoer keluar dari Taswir al-Afkar.
Kepenulisan
Mas Mansoer juga banyak menghasilkan tulisan-tulisan yang berbobot. Pikiran-pikiran pembaharuannya dituangkannya dalam media massa. Majalah yang pertama kali diterbitkan bernama Soeara Santri. Kata santri digunakan sebagai nama majalah, karena pada saat itu kata santri sangat digemari oleh masyarakat. Oleh karena itu, Soeara Santri mendapat sukses yang gemilang. Djinem merupakan majalah kedua yang pernah diterbitkan oleh Mas Mansoer. Majalah ini terbit dua kali sebulan dengan menggunakan bahasa Jawa dengan huruf Arab. Kedua majalah tersebut merupakan sarana untuk menuangkan pikiran-pikirannya dan mengajak para pemuda melatih mengekspresikan pikirannya dalam bentuk tulisan. Melalui majalah itu Mas Mansoer mengajak kaum muslimin untuk meninggalkan kemusyrikan dan kekolotan. Di samping itu, Mas Mansoer juga pernah menjadi redaktur Kawan Kita di Surabaya.
Tulisan-tulisan Mas Mansur pernah dimuat di Siaran dan Kentoengan di Surabaya; Pengandjoer dan Islam Bergerak di Jogjakarta; Pandji Islam dan Pedoman Masyarakat di Medan dan Adil di Solo. Di samping melalui majalah-majalah, Mas Mansoer juga menuliskan ide dan gagasannya dalam bentuk buku, antara lain yaitu Hadits Nabawijah; Sjarat Sjahnja Nikah; Risalah Tauhid dan Sjirik; dan Adab al-Bahts wa al-Munadlarah. Beberapa dari tulisan-tulisan K. H. Mas Mansoer yang tersebar di banyak media tersebut kemudian dihimpun oleh Amir Hamzah Wirjosukarto dalam sebuah Buku Rangkaian Mutu Manikam Kyai Hadji Mas Mansur yang diterbitkan oleh Penjebar Ilmu dan Al-Ichsan pada tahun 1968.
Kegiatan di Muhammadiyah
Mulai aktif di Muhammadiyah
Di samping aktif dalam bidang tulis-menulis, dia juga aktif dalam organisasi, meskipun aktivitasnya dalam organisasi menyita waktunya dalam dunia jurnalistik. Pada tahun 1921, Mas Mansoer masuk organisasi Muhammadiyah. Aktivitas Mas Mansoer dalam Muhammadiyah membawa angin segar dan memperkukuh keberadaan Muhammadiyah sebagai organisasi pembaharuan. Tangga-tangga yang dilalui Mas Mansur selalu dinaiki dengan mantap. Hal ini terlihat dari jenjang yang dilewatinya, yakni setelah Ketua Cabang Muhammadiyah Surabaya, kemudian menjadi Konsul Muhammadiyah Wilayah Jawa Timur. Puncak dari tangga tersebut adalah ketika Mas Mansur menjadi Ketua Pengurus Besar Muhammadiyah
Terpilih menjadi Ketua PB Muhammadiyah
Mas Mansoer dikukuhkan sebagai Ketua Pengurus Besar Muhammadiyah dalam Kongres Muhammadiyah ke-26 di Jogjakarta pada bulan Oktober 1937. Banyak hal pantas dicatat sebelum Mas Mansoer terpilih sebagai Ketua Pengurus Besar Muhammadiyah. Suasana yang berkembang saat itu ialah ketidakpuasan angkatan muda Muhammadiyah terhadap kebijakan Pengurus Besar Muhammadiyah yang terlalu mengutamakan pendidikan, yaitu hanya mengurusi persoalan sekolah-sekolah Muhammadiyah, tetapi melupakan bidang tabligh (penyiaran agama Islam). Angkatan Muda Muhammadiyah saat itu berpendapat bahwa Pengurus Besar Muhammadiyah hanya dikuasai oleh tiga tokoh tua, yaitu K. H. Hisjam (Ketua Pengurus Besar), K. H. Moechtar (Wakil Ketua), dan K. H. Sjuja' sebagai Ketua Majelis PKO (Pertolongan Kesedjahteraan Oemoem).
Situasi bertambah kritis ketika dalam Kongres Muhammadiyah ke-26 di Jogjakarta pada tahun 1937, ranting-ranting Muhammadiyah lebih banyak memberikan suara kepada tiga tokoh tua tersebut. Kelompok muda di lingkungan Muhammadiyah semakin kecewa. Namun setelah terjadi dialog, ketiga tokoh tersebut ikhlas mengundurkan diri.
Setelah mereka mundur lewat musyawarah, Ki Bagoes Hadikoesoemo diusulkan untuk menjadi Ketua Pengurus Besar Muhammadiyah, namun ia yang menolak. Kiai Hadjid juga menolak ketika ia dihubungi untuk menjadi Ketua Pengurus Besar Muhammadiyah. Perhatian pun diarahkan kepada Mas Mansoer (Konsul Muhammadiyah Daerah Surabaya). Pada mulanya Mas Mansoer menolak, tetapi setelah melalui dialog panjang ia bersedia menjadi Ketua Pengurus Besar Muhammadiyah.
Pergeseran kepemimpinan dari kelompok tua kepada kelompok muda dalam Pengurus Besar Muhammadiyah tersebut menunjukkan bahwa Muhammadiyah saat itu sangat akomodatif dan demokratis terhadap aspirasi kalangan muda yang progresif demi kemajuan Muhammadiyah, bukan demi kepentingan perseorangan. Bahkan Pengurus Besar Muhammadiyah pada periode Mas Mansoer juga banyak didominasi oleh angkatan muda Muhammadiyah yang cerdas, tangkas, dan progresif.
Gaya kepemimpinan
Terpilihnya Mas Mansoer sebagai Ketua Pengurus Besar Muhammadiyah meniscayakannya untuk pindah ke Jogjkarta bersama keluarganya. Untuk menopang kehidupannya, Muhammadiyah tidak memberikan gaji, melainkan ia diberi tugas sebagai guru di Madrasah Mu'allimin Muhammadiyah Yogyakarta, sehingga ia mendapatkan penghasilan dari sekolah tersebut. Sebagai Ketua Pengurus Besar Muhammadiyah, Mas Mansoer juga bertindak disiplin dalam berorganisasi. Sidang-sidang Pengurus Besar Muhammadiyah selalu diadakan tepat pada waktunya. Demikian juga dengan para tamu Muhammadiyah dari daerah-daerah. Berbeda dari Pengurus Besar Muhammadiyah sebelumnya yang sering kali menyelesaikan persoalan Muhammadiyah di rumahnya masing-masing, Mas Mansoer selalu menekankan bahwa kebiasaan seperti itu tidak baik bagi disiplin organisasi, karena Pengurus Besar Muhammadiyah telah memiliki kantor sendiri beserta segenap karyawan dan perlengkapannya. Namun ia tetap bersedia untuk menerima silaturrahmi para tamu Muhammadiyah dari daerah-daerah itu di rumahnya untuk urusan yang tidak berkaitan dengan Muhammadiyah.
Kepemimpinannya ditandai dengan kebijaksanaan baru yang disebut Langkah Muhammadiyah 1938-1949. Ada duabelas langkah yang dicanangkannya. Selain itu, Mas Mansoer juga banyak membuat gebrakan dalam hukum Islam dan politik ummat Islam saat itu. Yang perlu untuk pula dicatat, Mas Mansoer tidak ragu mengambil kesimpulan tentang hukum bank, yakni haram, tetapi diperkenankan, dimudahkan, dan dimaafkan, selama keadaan memaksa untuk itu. Ia berpendapat bahwa secara hukum bunga bank adalah haram, tetapi ia melihat bahwa perekonomian ummat Islam dalam kondisi yang sangat memprihatinkan, sedangkan ekonomi perbankan saat itu sudah menjadi suatu sistem yang kuat di masyarakat. Oleh karena itu, jika ummat Islam tidak memanfaatkan dunia perbankan untuk sementara waktu, maka kondisi perekonomian ummat Islam akan semakin turun secara drastis. Dengan demikian, dalam kondisi keterpaksaan tersebut dibolehkan untuk memanfaatkan perbankan guna memperbaiki kondisi perekonomian ummat Islam.
Kegiatan politik
Dalam perpolitikan ummat Islam saat itu, Mas Mansoer juga banyak melakukan gebrakan. Sebelum menjadi Ketua Pengurus Besar Muhammadiyah, Mas Mansoer sebenarnya sudah banyak terlibat dalam berbagai aktivitas politik ummat Islam. Setelah menjadi Ketua Pengurus Besar Muhammadiyah, ia pun mulai melakukan gebrakan politik yang cukup berhasil bagi ummat Islam dengan memprakarsai berdirinya Majelis Islam A'la Indonesia (MIAI) bersama Hasyim Asy'ari dan Wahab Hasboellah yang keduanya dari Nahdlatul Ulama (NU). Ia juga memprakarsai berdirinya Partai Islam Indonesia (PII) bersama Dr. Sukiman Wiryasanjaya sebagai perimbangan atas sikap non-kooperatif dari Partai Syarikat Islam Indonesia (PSII). Demikian juga ketika Jepang berkuasa di Indonesia, Mas Mansoer termasuk dalam empat orang tokoh nasional yang sangat diperhitungkan, yang terkenal dengan empat serangkai, yaitu Soekarno, Mohammad Hatta, Ki Hadjar Dewantara, dan Mas Mansur.
Keterlibatannya dalam empat serangkai mengharuskannya pindah ke Jakarta, sehingga Ketua Pengurus Besar Muhammadiyah diserahkan kepada Ki Bagoes Hadikoesoemo. Namun kekejaman pemerintah Jepang yang luar biasa terhadap rakyat Indonesia menyebabkannya tidak tahan dalam empat serangkai tersebut, sehingga ia memutuskan untuk kembali ke Surabaya, dan kedudukannya dalam empat serangkai digantikan oleh Ki Bagoes Hadikoesoemo.
Meninggal dunia
Ketika pecah perang kemerdekaan, Mas Mansoer belum sembuh benar dari sakitnya. Namun ia tetap ikut berjuang memberikan semangat kepada barisan pemuda untuk melawan kedatangan tentara Belanda (NICA). Akhirnya ia ditangkap oleh tentara NICA dan dipenjarakan di Kalisosok. Di tengah pecahnya perang kemerdekaan yang berkecamuk itulah, Mas Mansur meninggal di tahanan pada tanggal 25 April 1946. Jenazahnya dimakamkan di Gipo Surabaya.
Pahlawan nasional
Atas jasa-jasanya, oleh Pemerintah Republik Indonesia ia diangkat sebagai Pahlawan Nasional Indonesia bersama rekan seperjuangannya, yaitu K. H. Fakhruddin.