Berdirinya Masjid Kiai Marogan dalam sejarah tidak terlepas dari sejarah Kiai Marogan itu sendiri, Sebagai pengusaha yang sukses Kiai Masagus Haji Abdul Hamid bin Mahmud alias Kiai Marogan mendirikan Masjid di pertemuan antara Sungai Musi dan Sungai Ogan yang dibangun kira–kira tahun 1871 M, dari segi arsitektur bangunan masjid ini sama dengan Masjid Agung Palembang. Masjid ini bernama Masjid Jami’ Kiai Haji Abdul Hamid bin Mahmud. Akan tetapi Masjid ini kemudian lebih dikenal dengan sebutan Masjid Kiai Muara Ogan yakni Masjid yang didirikan oleh Kiai yang bertempat tinggal di tepi Sungai Musi di Muara Sungai Ogan. Lama-kelamaan penyebutan Muara Ogan berubah menjadi Marogan atau Merogan sehingga nama Masagus Haji Abdul Hamid sering dipanggil Kiai Masagus Haji atau Kiai Marogan dan Masjidnya populer dengan sebutan Masjid Muara Ogan. Nama Kiai Marogan sekarang ini juga diabadikan sebagai nama jalan, mulali dari simpang empat jembatan Musi II Kemang Agung sampai dengan simpang empat jembatan Kertapati 1 Ulu Palembang. Pada mulanya masjid in digunakan sebagai tempat sholat dan belajar mengaji serta belajar agama bagi para keluarga dan masyarakat sekitar kampung Karang Berahi Kertapati, karena sebagai ulama Masagus Haji Abdul Hamid mempunyai banyak murid, salah satu muridnya sekaligus teman dekatnya yaitu Kiai Kemas Haji Abdurahman Delamat (Kiai Delamat yang mendirikan masjid Al-Mahmudiyah Suro 32 Ilir Palembang). Kemudian masjid yang semula milik pribadi Kiai Muara Ogan ini diwakafkan bersama dengan Masjid Lawang Kidul 5 Ilir Palembang pada tanggal 6 Syawal 1310 H (23 April 1893 M). Karena semakin lama jumlah anggota jamaah Masagus Haji Abdul Hamid semakin bertambah maka masjid tersebut perlu ditingkatkan fungsinya sebagai tempat sholat Jumat (Masjid Jami’). Tidak ditemukan catatan yang pasti kapan masjid ini menjadi masjid Jami’. Ada dugaan menyatakan bahwa sholat Jumat baru dilakukan setelah persetujuan Raad Agama terhadap wakaf tersebut. Sedang dugaan lain menegaskan bahwa masjid tersebut telah digunakan untuk sholat Jumat tidak lama setelah dibangun. Dugaan pertama didasarkan atas anggapan bahwa Masjid Muara Ogan diwakafkan secara bersama dengan Masjid Lawang Kidul dan sholat Jumat baru dipersoalkan setelah adanya persetujuan tersebut. Sementara dugaan kedua didasarkan atas letaknya yang cukup jauh sehingga tidak banyak berpengaruh terhadap jamaah Masjid Agung. Hingga sekarang masjid ini masih dipergunakan sebagai tempat ibadah atau tempat kegiatan-kegiatan keagamaan lainnya. Menurut sejarah dari orang tua-tua antara lain Almarhum Masagus Haji Abdul Karim Dung (manatan Ketua Yayasan Masjid Kiai Muara Ogan), bahwa pada mulanya tanah milik Kiai Muara Ogan yang diatas tanah tersebut dibangun masjid Muara Ogan adalah jauh lebih luas dari pada yang ada sekarang, yaitu sebelah Barat berbatasan dengan Sungai Musi, sebelah Timur sampai belakang pasar Kertapati, sebelah Utara berbatas dengan Sungai Ogan dan sebelah Selatan sampai ke Sungai Gelam (Keramasan). Hal in dapat dibuktikan sebagai contoh bahwa tanah “Pulau Kemaro” selama ini banyak yang menganggapnya sebagai tanah Tak Bertuan alias Tanah Negara padahal sesungguhnya adalah milik Kiai Muara Ogan, yang dapat dibuktikan kebenanrannya. Sebagai salah satu warisannya, Masjid Lawang Kidul hingga kini masih menampakkan kekukuhan dan kemegahan perkembangan Islam di kota ini. Hingga sekarang, masjid yang bangunan induknya memiliki luas lantai lebih kurang 20 X 20 meter itu, sebagian besar masih asli. Namun, terdapat bangunan tambahan sehingga luasnya saat ini menjadi 40 X 41 meter. Pemugaran dilaksanakan pada 1983-1987 lalu. Meskipun sebagian besar materialnya asli, ada beberapa bagian yang terpaksa diganti. Bagian yang diganti itu, terutama bagian atapnya yang semula genting belah bambu. Karena genting jenis itu tidak ada lagi, diganti dengan genting kodok. Konon, material bangunan itu terdiri atas campuran kapur, telur, dan pasir. Sedangkan bahan kayunya tiang, pintu, atap, dan bagian penunjang lainnya? terbuat dari kayu unglen. Interior mesjid, juga masih menampakkan keaslian. Empat saka guru memilik ketinggian delapan meter dengan 12 pilar pendamping setinggi lebih kurang enam meter. Kesemua tiang bersudut delapan. Empat alang (penyangga) atap sepanjang 20 meter juga terbuat dari unglen tanpa sambungan. Sejak berdirinya hingga sekarang masjid Kiai Muara Ogan pernah mengalami beberapa kali percobaan penggusuran, hal ini disebabkan karena letaknya yang setrategis sebagai contoh pada tahun 1911 Perusahaan Kareta Api ZSS (Zuit Spoor Sumatera) milik Pemerintah Hindia Belanda melakukan perluasan stasiun kereta api, akibatnya tanah milik Kiai Muara Ogan diambil dan tinggal yang ada sekarang seluas 12.586 meter bujur sangkar diatas tanah in beridir bangunan sebuah masjid, 3 (tiga) buah sekolah, makam Kiai Muara Ogan dan zuriatnya dan beberapa rumah zuriat Kiai Muara Ogan. Selain dari tanah komplek Masjid Kiai Muara Ogan tersebut tanah dikuasai oleh PT. Kereta Api. Pada masa pendudukan Jepang, dilakukan pendalaman Sungai Musi di depan masjid Kiai Muara Ogan untuk keperluan pengambilan bahan batu bara dari pusat pembagiannya di komplek TABA Keretaapi dengan menggunakan kapal-kapal besar. Akibatnya tanah yang berada dipinggiran sungai yang berbatasan dengan masjid, sejak tahun 1943 sampai 1980 mengalami erosi terus menerus baik oleh hempasan sungai maupun akibat curah hujan, sehingga tanah di depan masjid tersebut hanya tinggal 2 (dua) meter dari mihrab (Pengimaman). Untuk mengatasi tanah longsor tersebut dimintakjan bantuan kepada masyarakat maupun pihak tertentu. Pada tahun 1969 dibentuklah sebuah Yayasan dengan nama Yayasan masjid Kiai Muara Ogan dengan susunan pengrurus anatar lain Ketua Masagus Haji Abdul karim Dung, Wakil Ketua Ustadz Muhammad Jakfar, Sekretaris Masagus Ibrahim Rahman dan Bendahara Masagus haji Umar Usaman. Pengurus yaysan mengajukan permohonan kepada pemerintah untuk mengatasi tanah longsor tersebut dan Alahamdulillah pada tahun 1980 Bapak Presiden Soeharto memberikan bantuan sebesar Rp 10 juta yang diberikan secara bertahap. Secara perlahan tapi pasti bahaya longsor dapat ditanggulangi. Sekitar tahun 1950 masjid Kiai Muara Ogan mengadakan renovasi yaitu Mustaka atau Limas teratas yang berbentuk segi empat diganti dengan Kubah bulat terbuat dari seng, bagian depan diperluas dan dak cor beton, dengan biaya sumbangan dari para dermawan kota Palembang dan sekitarnya. Juga ada bantuan dari Walikota palembang pada waktu itu yaitu H.Abdul Kadir berupa semen. Masjid Kiai Muara Ogan yang dibangun pada tahun 1871 M, lalu di renovasi pada tahun 1950 M. Kemudian direnovasi lagi secara besar-besaran pada tahun 1989 yaitu dengan meninggikan plafonnya, kubah bulat yang terbuat dari seng diganti dengan Mustaka Limas dikembalikan seperti semula, lantainya diganti dengan keramik, pintu-pintu dan jendela diganti dengan yang baru, dengan tidak merubah unsurnya yang asli. Renovasi ini menelan biaya lebih kurang Rp 325 juta yang ditanggung sendniri oleh seorang pengusaha kayu asal Palembang yaitu Bapak Kemas Haji Abdul Halim bin Kemas Haji Ali, yang diresmikan pemakaiannya oleh Menteri Kehutanan Republik Indonesia pada waktu itu yaitu Bapak Ir.H.Hasyrul Harahap. Sejak direnovasi pad atahun 1989 hingga saat ini belum mengalami renovasi lagi. Namun akhir-akhir ini plafon bagian utama masjid yang terbuat dari kayu (tidak ikut direnovasi pada tahun 1989 karena merupakan salah satu unsur yang asli sejak didirikannya) sudah mulai banyak yang bocor apabila hujan turun. Untuk memperbaiki plafon yang bocor ini, pengurus masjid atas persetujuan zuriat Kiai Muara Ogan telah mengajukan permohonan kepada Bapak Kemas Haji Abdul Halim Ali untuk membiayai renovasi plafon tersebut dan Alhamdulillah beliau bersedia dan tinggal menunggu realisasinya, termasuk juga memugar makam pendiri masjid tersebut yaitu Kiai Masagus Haji Abdul Hamid bin Mahmud alias Kiai Marogan. Masjid ini pada waktu dibangun berukuran panjang 25 meter dan lebar 20 meter, setelah mengalami renovasi sekarang menjadi lebih kurang panjang 50 meter dan lebar 40 meter sehingga dapat menampung jamaah kira-kira 1500 orang bila Hari Raya Idul Fitri atau Idul Adha, bisa juga mencapai dua kali lipat jamaah apabila termasuk di halaman masjid. Saat ini susunan pengurus inti Yayasan Masjid Kiai Muara Ogan yang tercantum dalam Akte Notaris Aminus Nomor 8 tanggal 5 November 1969 semuanya sudah meninggal dunia yaitu ketua, wakil ketua, sekretaris dan bendahara 4 (empat) orang. Akte Yayasan tersebut diperbaharui melalui Notaris Iskandar Usman SH, M.Kn, Nomor 1 tanggal 23 Februari 2005 dengan susunan pengurus inti yaitu Ketua Masagus Usman Ahmad, Wakil Ketua Masagus Alwi Abdussatar, Sekretaris Masagus Haji Memet Ahmad, SE, Bendahara Masagus Haji Husni Nasir, Wakil Bendahara Arifin Ahmad dan Penasehat Drs. Haji Syamsuddin Mansyur Akil. Pada saat ini hanya ada 3 (tiga) Yayasan Resmi (Legal) yang bernaung dibawah nama Kiai Muara Ogan selain ini tidak ada. Yayasan-yayasan itu antara lain : 1. Yayasan Masjid Kiai Muara Ogan 2. Yayasan Mujahidin Masjid Lawang Kidul 3. Yayasan Pengurus Islam Ummul Quro Al-Hamidiyah Kiai Muara Ogan