Masjid Madegan dibangun oleh Ario Langgar cucu Lembupetang seorang kamituwo yang waktu itu berkuasa di Sampang. Lembupetang merupakan putra Raja Majapahit yang terakhir dari perkawinannya dengan seorang putri Campa, salah satu provinsi di Kamboja. Ia kemudian belajar kepada Raden Rahmat atau dikenal sebagai Sunan Ampel di Surabaya dan meninggal di sana.

Tetapi ada pula sumber lain menyebutkan, masjid yang terletak di pinggiran kota Sampang itu dibangun pada masa pemerintahan Cakradiningrat IV yang berasal-usul pada Ratu Ebu di Bangkalan. Adapun Ratu Ebu adalah putri Sunan Giri yang dinikahi Raden Praseno, gelarnya adalah Cakradiningrat I.

Walau belum diketahui secara pasti siapa dan kapan berdirinya Masjid Madekan, tidak dapat dipungkiri masjid ini memang dibangun oleh raja yang berkuasa di Sampang. Hal itu dibuktikan dengan adanya sisa gapura yang masih berdiri kokoh di samping kiri masjid. Raja yang pernah berkuasa di Sampang di antaranya adalah Lembupetang, Cakraningrat I, Raden Ario Purbonegoro putra Cakraningrat H, Adipati Pamadekan dan penerusnya.

Bukti lain yang memberikan petunjuk bahwa masjid ini didirikan oleh Raja Sampang yaitu terdapat pesarean raja-raja di sekeliling masjid. Pesarean Ario Langgar yang diduga kuat pembangun masjid adalah salah satunya.

Kemudian, di belakang masjid terdapat bangunan (congkop, Madura) yang di dalamnya terdapat makam raja- raja. Sementara, di samping kiri terdapat juga bangunan serupa yang di dalamnya disemayamkan Raden Baharuddin anak keturunan Ratu Ebu. Anak keturunannya yang lain yaitu Moh. Noer mantan Gubernur Jawa Timur.

4. Tidak Diketahui Asal Mula Jadi Tempat Sumpah Pocong

Mengenai sebab Masjid Madegan masyhur sebagai tempat melakukan sumpah pocong tidak diketahui secara pasti. Abdul Halim yang sudah lebih dari 15 tahun bertugas sebagai "penyumpah" mengaku tidak mengetahui apa alasannya. Menurut dia, pekerjaan itu diwarisinya dari orangtuanya.

Hanya saja menurut Abdul Halim, kemasyhurannya itu diduga lantaran "keampuhannya" mendatangkan bala. Lebih jauh dikatakan, saat ayahnya dahulu bertugas menyumpah, mereka yang bersalah akan mendapat bala langsung begitu turun dari masjid usai bersumpah.

Pemda Sampang yang juga turun tangan dalam penyumpahan ini sebelum sumpah dilakukan, melakukan berbagai upaya supaya mereka yang bersengketa mengurungkan niatnya.

Selain upaya dan nasihat, untuk menggagalkan niat orang melakukan "Sompa Madekan", Pemerintah Sampang menetapkan sumpah yang cukup mahal. Menurut sebuah sumber, besarnya biaya penyumpahan itu dapat mencapai satu juta lebih. Dengan biaya yang besar itu diharapkan mereka yang bersengketa dapat menyelesaikan masalahnya secara damai.

Umumnya, mereka yang bersumpah itu adalah mereka yang secara ekonomi tergolong lemah, hingga ada juga yang mengurungkan niatnya karena biaya yang besar. Meski demikian, tidak sedikit yang memaksakan diri.

6. Lokasinya di Tengah Kuburan

Memasuki halaman Masjid Madegan tampak agak menyeramkan, terutama lokasinya yang berada di tengah kuburan serta dikelilingi pohon-pohon besar. Pada hari Kamis sore banyak orang yang datang berkunjung membaca Al-Qur'an di sana.

Barangkali karena terdapat bekas kerajaan, Masjid Madegan kerap didatangi oleh turis mancanegara untuk melihat dari dekat peninggalan sejarah yang sangat penting.