Sejarah pembentukan Sanggar Ki Ageng Ganjur Yogyakarta berawal dari kegelisahan beberapa mahasiswa aktifis Kampus Putih IAIN Sunan Kalijaga Yogyakarta (sekarang berubah menjadi UIN Sunan Kalijaga Yogyakarta) yang tergabung dalam Unit Kegiatan Mahasiswa (UKM) Orkes Gambus (OG) Al-Jami’ah yang merasa prihatin melihat perkembangan dunia kesenian pada umumnya dan musik pada khususnya yang lebih didominasi oleh aspek komersialisme dan cenderung mengabaikan kualitas berkeseniaan karena terbelenggu oleh selera pasar yang ‘sengaja’ diciptakan oleh para pengusaha industri hiburan.
Kegelisahan tersebut mendorong semangat dan idealisme para aktifis tersebut yang dipelopori oleh Al-Zastrouw, Choerul Anwar, Ujang Hanief Musthofa dan Umi Darurohmah dari kampus IAIN Sunan Kalijaga dan Tutut P dan Mamiek S dari kampus ISI Yogyakarta serta didukung oleh beberapa mahasiswa junior mereka untuk membentuk sebuah komunitas yang tidak hanya mampu menampung dan menyalurkan bakat berkesenian mereka tetapi juga menjadi sebuah kawah candradimuka untuk menuangkan segala ide dan eksplorasi mereka tentang makna dan hakekat berkesenian sebagai sebuah upaya pengembangan jati diri serta mengimplementasikan spiritualitas keberagamaan mereka melalui jalur musik sebagai pilihan media dakwah dan pemberdayaan secara kultural.
Setelah melalui proses pencarian dan perdebatan panjang maka bertepatan dengan Peringatan HUT Kemerdekaan RI ke-50 Tahun 1995 yang dipropagandakan pemerintah sebagai “Ulang Tahun Indonesia Emas” terbentuklah komunitas tersebut melalui sebuah pementasan musik kontemporer di Lapangan Utara IAIN Sunan Kalijaga Yogyakarta dengan tajuk pementasan “Renungan dan Keprihatinan Indonesia Cemas” yang merupakan wacana tandingan sekaligus dari slogan resmi pemerintah tersebut.Pemilihan jalur musik akulturatif yang dijiwai spiritualitas keberagamaan memang sebuah pilihan sulit mengingat derasnya perkembangan jenis musik yang berorientasi pada selera pasar untuk meraup keuntungan secara besar. Namun setapak demi setapak dan setelah melalui masa konsolidasi yang cukup melelahkan disertai konsultasi dan pencarian dukungan ke berbagai tokoh masyarakat antara lain KH. Abdurrahman Wahid (Gus Dur), KH. A. Musthofa Bisri (Gus Mus) dan Franky Sahilatua, maka atas restu, dorongan moral maupun spiritual dari para tokoh tersebut maka lahirlah sebuah komunitas musik Sanggar Ki Ageng Ganjur Yogyakarta pada tahun 1996.
Nama Ki Ageng Ganjur diambil berdasarkan saran dan petunjuk dari Gus Dur yang merujuk pada nama seorang pembantu setia Sunan Kalijaga bernama Syekh Abdurrahman yang terkenal sebagai seorang panglima dan pemberi semangat dalam setiap perjuangan pasukannya dengan membunyikan Gong Genjur ketika akan memulai pertempuran.Berdasarkan pertimbangan kedekatan secara spiritual maupun emosional terutama dalam memperjuangkan hak-hak kaum tertindas serta perhatian dan dorongan mereka terhadap kelompok minoritas maka Gus Dur dan disertai Franky Sahilatua didaulat sebagai penasehat Sanggar Ki Ageng Ganjur Yogyakarta guna melakukan penyadaran dan pemberdayaan masyarakat melalui jalur kultural dengan mengusung jenis musik spiritual dan akulturatif sebagai media utamanya.
Dalam perkembangan selanjutnya, Ki Ageng Ganjur telah berhasil meluncurkan album perdananya bertajuk “Tadarus Budaya” (1997) yang berisi lagu dan komposisi musik arransement Ki Ageng Ganjur disertai orasi dari Gus Dur. Sedangkan album kedua bertajuk “Ziarah Rasul” (1999) berisi lagu-lagu dan arransement lagu-lagu shalawat karya Ki Ageng Ganjur.Selain telah memasuki dunia rekaman, Ki Ageng Ganjur juga telah melakukan pementasan terbuka hampir di seluruh kota di Pulau Jawa, Bali dan Sumatera serta berbagai macam paket acara di televisi pemerintah maupun swasta dengan dukungan sponsor dari berbagai perusahaan serta melibatkan banyak artis ibukota baik dari jenis musik pop, dangdut maupun rock ditemani beberapa pelawak senior di negeri ini.