Semangat pendirian Sekolah Tinggi Ilmu Tarbiyah Madani Yogyakarta didasari oleh keinginan Yayasan Majelis At Turots Al Islamy untuk semakin mengabdikan diri dan berdakwah melalui jalur pendidikan. Pondok Pesantren Islamic Centre Bin Baz (ICBB) Yogyakarta merupakan lembaga pendidikan keagamaan yang berdiri sejak Tahun 2000. Pesantren ini didirikan oleh Ustadz Abu Nida’ Chomsaha Sofwan, Lc. Pada awalnya pesantren tersebut berawal dari halaqoh tahfiz, namun lambat laun atas inayah dari Allah Ta’ala, kemudian usaha keras para pengurusnya saat ini telah berkembang menjadi sebuah yayasan pendidikan yang cukup besar.
Umumnya santri atau peserta didik di Pondok Pesantren Islamic Centre Bin Baz diperkenalkan dengan pola campuran antara sistem pendidikan formal dan non-formal. Pengajian kepesantrenan dalam bentuk metode sorogan dan bandongan merupakan bentuk pendidikan nonformal. Pengajian ini merupakan wahana mengintensifkan pendidikan serta bimbingan kepribadian inter-personal. Sedangkan pendidikan pola madrasah-formal diselenggarakan di samping untuk mengikuti perkembangan masyarakat, juga untuk mengembangkan metode-metode belajar mengajar modern secara klasikal dan terukur dengan tetap mempertahankan muatan-muatan kepesantrenan di samping materi ilmu non-keagamaan. Sistem pendidikan non-formal tersebut secara kelembagaan diwadahi melalui: (a) Madrasah Diniyah ; (b)Takhassus Tahfidz Al-Quran; (c) Pesantren Mahasiswa; dan (d) Pesantren Tadribuddu’at.Sementara pendidikan formal di ICBB diwadahi melalui lembaga-lembaga seperti (a)TK Islamic Centre Bin Baz ; (b) Salafiah Ula Islamic Centr Bin Baz ; (c) Salafiyah Wustho Islamic Centre Bin Baz; dan (d) Madrasah Aliyah Islamic Centre Bin Baz. Hingga kini, santri atau murid di lingkungan Pesantren Islamic Centre Bin Baz tercatat tidak kurang dari 2000 orang. Mereka berasal dari berbagai wilayah di Indonesia, Jawa, Sumatera, Kalimantan, Sulawesi dan daerah-daerah lain, bahkan dari luar negeri, Malaysia, Singapura dan Australia.
Setelah sekitar 13 tahun memiliki pengalaman mengelola pendidikan formal maupun non-formal, Yayasan Majlis Atturots Al-Islamy (YMAI) ingin melangkah ke tahap berikutnya dengan mendirikan Sekolah Tinggi Agama Islam. Keinginan ini didorong oleh beberapa pertimbangan. Pertama, keinginan Pondok Pesantren Islamic Centre Bin Baz terlibat lebih jauh dalam proses mencerdaskan kehidupan bangsa. Secara lebih spesifik hal ini direalisasikan dalam upaya menyiapkan peserta didik menjadi anggota masyarakat yang memiliki kemampuan akademik dan profesional yang dapat menerapkan serta mengembangkan ilmu pengetahuan, teknologi dan etika. Di samping itu juga turut mendorong pengembangan dan penyebarluasan pengetahuan serta mengupayakan penggunaannya untuk meningkatkan taraf kehidupan masyarakat dan memperkaya kebudayaan bangsa yang bermartabat. Pada taraf ini Yayasan Majlis At-Turots Al Islamy tergerak untuk merealisasikan misinya dalam mendorong lahirnya generasi intelektual yang mandiri melalui penyelenggaraan pendidikan tinggi yang mengedepankan nilai kebangsaan, kesejahteraan, dan solidaritas sosial dengan mendasarkan diri pada nilai-nilai etis al-Qur’an dan akhlaqul karimah. Kedua, adanya dukungan yang besar dari masyarakat pada umumnya dan kalangan pesantren pada khususnya yang mendorong lahirnya satu perguruan tinggi berkualitas yang lahir dari “rahim” pondok pesantren sendiri. Hal ini sangat terkait dengan perkembangan diaspora masyarakat pesantren yang telah menyebar masuk keberbagai aspek kehidupan bangsa, baik ke wilayah akademik, ekonomi, politik, birokrasi pemerintah maupun kebudayaan. Secara praktis dorongan ini misalnya terwujud dalam kesanggupan para akademisi berkualitas dari berbagai perguruan tinggi terkemuka di Yogyakarta untuk terlibat aktif dalam rencana pengembangan STITMA Yogyakarta.
Ketiga, fasilitas fisik maupun non-fisik yang telah tersedia di berbagai lembaga pendidikan di lingkungan Pondok Islamic Centre Bin Baz memberikan kemungkinan besar di masa depan untuk pengembangan sebuah konsep lembaga pendidikan keagamaan terpadu. Pendirian STITMA Yogyakarta merupakan satu perkembangan yang mutlak pentingnya untuk terealisasinya lembaga pendidikan terpadu di lingkungan Pondok Pesantren Islamic Centre Bin Baz. Letak strategis dipinggiran Yogyakarta dan ketersediaan fasilitas fisik berupa lahan yang cukup luas memberikan kemungkinan pengembangan kampus terpadu tanpa harus memisahkan diri dengan kedekatan di lingkungan masyarakat. Sementara itu kondisi calon mahasiswa baik dari sebagian lulusan Madrasah Aliyah Islamic Centre Bin Baz sendiri,maupun para lulusan dari berbagai jaringan pesantren di tingkat nasional memberikan harapan bahwa Sekolah Tinggi Ilmu Tarbiyah Madani Yogyakarta menjadi kebutuhan yang semakin signifikan. Apalagi kecenderungan belakangan ini dimana orang tua semakin tertarik mempercayakan pendidikan anak pada lembaga-lembaga yang credible menjaga memberi harapan bahwa Sekolah Tinggi Ilmu Tarbiyah Madani Yogyakarta menjangkau lulusan Madrasah Aliyah/pesantren, tapi juga sekaligus ulusan-lulusan sekolah umum dari berbagai daerah. Kondisi ini semakin didukung oleh letak geografis Yogyakarta sebagai kota Pendidikan Nasional.
Untuk mencapai tujuan perguruan tinggi tersebut,salah satunya perlu ditunjang oleh keberadaan jurusan atau program studi. STITMA Yogyakarta Mengajukan dua program studi (Prodi), Prodi Pendidikan Agama Islam (PAI) dan Prodi Pendidikan Bahasa Arab (PBA). Untuk memenuhi tuntutan dan peran Jurusan / program Studi pada perguruan tinggi dan seiring dengan adanya regulasi pemerintah tentang penetapan ilmu dan gelar akademik dilingkungan perguruan Tinggi Agama Islam. Maka sebagai tindak lanjut yang beroriantasi pada kemajuan dan profesionalitas jurusan/program studi, STITMA Yogyakarta membuka program pendidikan Agama Islam (PAI) dan Pendidikan Bahasa Arab (PBA) dalam rangka meningkatkan mutu pendidikan Nasional khususnya STITMA Yogyakarta yang kami usulkan.