Malangnya, asas masjid itu lemah. Dibina di tebing sungai, masjid itu sering dilanda oleh banjir kilat seperti banjir tahun 1926 yang dikenali sebagai ‘Bah Air Merah’ yang melemahkan lagi asasnya. Selepas dilanda sekali lagi oleh banjir yang teruk pada tahun 1966 yang menghanyutkan sebahagian masjid itu, Persatuan Sejarah Malaysia mencadangkan pemindahan masjid itu ke tempat yang lebih selamat. Pada tahun 1968, masjid itu dibuka dan dipasang semula di kawasan Sekolah Pengajian Islam di Nilam Puri.

Pada tahun 1988, masjid ini diperbaik lagi dengan kemudahan-kemudahan moden seperti elektrik, air paip, tandas dan kawasan duduk. Tiang-tiang dan dinding-dinding masjid juga dihias dengan ukiran kayu. Dengan tambahan-tambahan ini, kawasan binaan menjadi 5,254 kaki persegi (74 kaki x 71 kaki) iaitu 13 kali lebih besar daripada masjid asal.