Pada tahun 1963 Beliau Hijrah ke Sumatera untuk mengembangkan pendidikan Islam ala pesantren. Tempat yang dituju pertama adalah Pondok Pesantren Subulussaam Sriwangi yang diasuh oleh KH. Abu Mansyur. Disana Beliau bersama KH. Abu Mansyur mengembangkan ilmu agama dalam beberapa tahun.

        Kemudian pada tahun 1967 Beliau hijrah ke Lebak Kajang desa Lubuk Harjo Kec. Cempaka Kab. OKU (yang sekarang Kec. Belitang Madang Raya Kab. OKU Timur) Sumatera Selatan dan di ikuti oleh santri Beliau (± 15 Santri putra). Selajutnya Beliau mendirikan Pesantren Daru Huda dengan dibantu masyarakat sekitar dan para santri. Beliau membangun asrama dan musholla. Sistem pendidikan yang Beliau terapkan adalah pendidikan pesantren ala salafiyah, mulai dari pengajian sorogan, kitab kuning, seni tilawatil qur’an, madrasah diniyah dan lain-lain. Dengan kegigihan Beliau yang tak kenal lelah, kini Pondok Pesantren Darul Huda berkembang semakin pesat, banyak santri yang berdatangan dari berbagai penjuru, bukan hanya dari wilayah Sumatera Selatan saja bahkan dari propinsi lain.

        Pada tanggal 04 Maret 1993 / 10 Ramadhan 1413 H Beliau wafat dan kemudian perjuangan Beliau diteruskan oleh putra Beliau KH. M. Najmuddin Rusdi. Di bawah pimpinan KH. M. Najmuddin Rusydi Pondok Pesantren Darul Huda semakin berkembang dan tetap menggunakan sistem pendidikan ala salafiyah.

1. Menyelengarakan kegiatan peribadatan dan dakwah demi tersebarnya syiar Islam dan nilai-nilai keislaman yang rahmatan lil ‘alamin dan moderat dalam kehidupan umat Islam dan bangsa Indonesia.

2. Mengembangkan diri sejalan dengan perkembangan Iptek dan Kebudayaan.

3. Menyelenggarakan pendidikan, pelatihan dan pelayanan yang modern, profesional dan islami dalam rangka pemabangunan karakter bangsa,demi meningkatnya kecerdasan intelektual, emosisonal dan spiritual umat secara terpadu dan meningkatnya daya saing bangsa Indonesia serta kebangkitan kembali umat islam.

4. Meningkatkan pelayanan pendidikan bagi masyarakat.

5. Menyediakan segala kelengkapan untuk kemudahan beribadah, mewujudkan dan memperbanyakkan aktiviti-aktiviti keilmuan kearah melahirkan masyarakat yang berketerampilan.

6. Membangkitkan daya juang bagi kemuliaan hidup dan kebahagiaan masa depan.