Lingkungan Jarakan memang banyak dihuni oleh para penuntut ilmu karena letaknya tidak jauh dari kampus IAIN, yang ketika itu berada di jalan Sriwijaya, sekarang berubah menjadi jalan Urip Sumoharjo (tepatnya sekarang toko Kesayangan/ Studio Radio Gress Fm). Lingkungan Jarakan juga tidak terlalu jauh dari UNIVERSITAS SUNAN GIRI (UNSURI) yang terletak di jalan Batoro Katong, serta PGA yang letaknya di jalan Soekarno Hatta (sekarang berubah menjadi MAN 2 Ponorogo). Para pelajar dan mahasiswa menempati Kos antara lain rumah K. Abu Mansur/ Ibu Nyai (orang tua dari K. Kadar), Ibu Mursono, Bapak Darus Salam dan lain lain.
Setelah beberapa waktu tinggal di Jarakan, munculah gagasan dari sebagian warga Jarakan di antaranya ialah Bapak Sujak Sulam, Bapak Husaini dan Bapak Slamet Basri. Mereka mengusulkan kepada KH. Imam Sayuti Farid untuk mendirikan Madrasah dan Pondok Pesantren.
Pada tahun 1970 KH. Imam Sayuti Farid datang di kota Ponorogo atas tugas mengajar di salah satu lembaga pendidikan di bawah naungan Ma’arif yaitu Madrasah Aliyah Putri “Mu’alimat”, tepatnya pada bulan Januari beliau mulai mengajar di lembaga tersebut.
Di Ponorogo beliau awalnya bertempat tinggal di rumah saudaranya yang terletak di Desa Gandu, Kecamatan Mlarak, Kabupaten Ponorogo. Pada perjalanan berikutnya ada seseorang yang menawarkan tempat tinggal (rumah) yang terletak di lingkungan Jarakan, Kelurahan Banyudono, beliau adalah Bapak Slamet Basri. Bapak Slamet Basri menawarkan rumah ibunya (Ibu Kam) yang tepatnya terletak di sebelah timur Masjid “Al-Jariyah”. Besar harapan dari Bapak Slamet Bisri bahwa kehadiran KH. Imam Sayuti Farid dapat membantu memakmurkan Masjid “Al-Jariyah” Jarakan Banyudono Ponorogo.
Keilmuan beliau dalam bidang keagamaan tidak disia-siakan oleh para pelajar dan mahasiswa yang Kos di lingkungan Jarakan, mereka ialah pelajar PGA dan mahasiswa IAIN SUNAN AMPEL, UNSURI, yang akan membutuhkan pendidikan agama yang lebih mendalam. Serambi masjid Jarakan dijadikan mereka sebagai tempat pengajian. Bukan hanya para pelajar dan mahasiswa, anak muda dan orangtua pun ikut menimba ilmu lewat pengajian tersebut seperti misalnya pengajian yang diselengarkan pada setiap malam Rabu.
Sebenarnya dulu sudah berdiri Madrasah namun terjadi kevakuman, kemudian madrasah tersebut diaktifkan kembali setelah datangnya KH. Muhayat Syah yang diminta oleh KH. Mujab Tahir untuk tinggal di Jarakan dengan cara dinikahkan dengan seorang wanita yang bernama Zainab (putri mbah Konah), Madrasah kembali vakum lagi setelah KH. Muhayat Syah pindah dan mendirikan Madrasah di tempat KH. Idris.
Pada tahun 1970 KH. Imam Sayuti Farid mendirikan Madrasah Awaliyah “Al Jariyah” yang langsung dikepalai oleh beliau, kemudian gantikan oleh KH. Mujahiddin Farid, dilanjutkan oleh Alm. Ibu Nur Tuhtida (1980- 2009), sepeninggal Ibu Nur Tuhtida, Madrasah dikepalai oleh Nurul Mar’atit Taqwati (2009). Ustadz-ustadz yang mengajar di Madrasah ini sebagian besar adalah anak kost. Dikarenakan kegiatan yang semakin padat, maka pada tahun1973 KH. Imam Sayuti Farid memanggil adik beliau KH. Mujahiddin Farid yang berada di malang selatan untuk membantu di Jarakan.
Tahun 1974 KH. Imam Sayuti Farid mulai mendirikan bangunan untuk Pondok. Pendirian bangunan tersebut dikerjakan bersama para pelajar, mahasiswa yang mengaji pada beliau dan beberapa warga sekitar serta Bapak Husaini yang menjadi koordinator pelaksana pembangunan. Tanah bangunan dibeli oleh KH. Imam Sayuti Farid dari H. Dul Hamid, bangunan tersebut sekarang menjadi Gedung Serba Guna Siti Khadijah yang sebelumnya ialah bangunan pondok putra. Sedangkan tanah di bagian utara (sekarang asrama pondok putra) dibeli oleh H. Syamsi dari Bapak Jumangin atas permintaan KH. Imam Sayuti Farid dan Bapak Sujak Sulam. Mulai saat itulah berdiri Pondok Pesantren yang diberi nama “WAHDATUL UMMAH”, namun pada tahun 1980 nama tersebut diubah menjadi “ITTIHADUL UMMAH” dengan alasan menghendaki makna yang lebih dinamis.
Sejak berdirinya, pengajian banyak dilakukan di serambi Masjid. Adapun waktu pengajian dilaksanakan setelah asar, setelah maghrib dan setelah subuh. Kemudian pada tahun 1988/1989 didirikan Madrasah Diniyah Tsanawiyah Malam dengan dua mata pelajaran. Berdirinya Madrasah ini atas inisiatif Bapak Kiai Bahtiar Harmi yang waktu itu selaku ketua Pondok. Peresmian Madrasah dilakukan dengan mengadakan pengajian dan pemutaran film “Wali Songo”.
Setelah berdiri Madrasah Tsanawiyah ini, K. Afandi Sayuti mulai diminta membantu Pondok dan sekaligus menjadi kepala Madrasah yang pertama sampai tahun 2005, kemudian berganti kepada Bapak Bahtiar Harmi sampai sekarang. Pada perkembangannya Madrasah tidak hanya dua mata pelajaran saja, tetapi empat mata pelajaran disamping juga ada kegiatan ekstra misalnya Muhadlarah, Sawir, Khataman Qur’an, Qiroatul Qur’an, Al Barjanji, Mujahadah, Halaqah, Tahlil dan lain sebagainya.
Pondok Pesantren “ITTIHADUL UMMAH” mula-mula hanya dihuni oleh Santri Putra saja, namun banyak juga anak Kos Putri yang mengikuti kegiatan Madrasah Tsanawiyah Malam. Pada tahun 1989 KH. Mujahidin Farid pindah ke Kelurahan Keniten, maka tempat yang dulunya ditempati KH. Mujahiddin yaitu rumah milik Bapak Joyo (orang tua Bapak Husaini) dijadikan sebagai asrama Pondok Putri. Bapak Bahtiar yang ditugasi mengawasi Santri Putri kemudian pindah dari Kos lama yaitu rumah Bapak Sukadi, pindak kerumah Ibu Karmin barat asrama Putri kira-kira 200 m.
Setelah beberapa tahun asrama Putri pindah ke rumah Bapak KH. Imam Sayuti Farid yang berada di sebelah selatan masjid yang hanya sebentar. Kemudian pindah lagi kerumah KH. Imam Sayuti Farid yang berada di timur masjid. Pada hari Ahad Kliwon 26 Agustus 2007 bertepatan tanggal 12 Sya’ban 1428 H, santri putri pindah menempati asrama baru yang letaknya di belakang (selatan) rumah KH. Imam Sayuti Farid yang berada di selatan masjid.
Bersamaan dengan itu direvitalisasi Yayasan Pengelola Unit-unit Pondok Pesantren dengan mendirikan Yayasan Al Ittihad, Madrasah Diniyah, Madrasah Tsanawiyah Ma’arif 1 Ponorogo, Madrasah Aliyah Ma’arif Nahdlatul Ummah dan LKSA Ittihadul Inayah. Seluruh lembaga ini kemudian bernaung di bawah Yayasan Al Ittihad sejak tahun 2015.