Sejarah pembentukan Sanggar Ki Ageng Ganjur Yogyakarta berawal dari kegelisahan beberapa mahasiswa aktifis Kampus Putih IAIN Sunan Kalijaga Yogyakarta (sekarang berubah menjadi UIN Sunan Kalijaga Yogyakarta) yang tergabung dalam Unit Kegiatan Mahasiswa (UKM) Orkes Gambus (OG) Al-Jami’ah yang merasa prihatin melihat perkembangan dunia kesenian pada umumnya dan musik pada khususnya yang lebih didominasi oleh aspek komersialisme dan cenderung mengabaikan kualitas berkeseniaan karena terbelenggu oleh selera pasar yang ‘sengaja’ diciptakan oleh para pengusaha industri hiburan.
Setelah melalui proses pencarian dan perdebatan panjang maka bertepatan dengan Peringatan HUT Kemerdekaan RI ke-50 Tahun 1995 yang dipropagandakan pemerintah sebagai “Ulang Tahun Indonesia Emas” terbentuklah komunitas tersebut melalui sebuah pementasan musik kontemporer di Lapangan Utara IAIN Sunan Kalijaga Yogyakarta dengan tajuk pementasan “Renungan dan Keprihatinan Indonesia Cemas” yang merupakan wacana tandingan sekaligus dari slogan resmi pemerintah tersebut.Pemilihan jalur musik akulturatif yang dijiwai spiritualitas keberagamaan memang sebuah pilihan sulit mengingat derasnya perkembangan jenis musik yang berorientasi pada selera pasar untuk meraup keuntungan secara besar. Namun setapak demi setapak dan setelah melalui masa konsolidasi yang cukup melelahkan disertai konsultasi dan pencarian dukungan ke berbagai tokoh masyarakat antara lain KH. Abdurrahman Wahid (Gus Dur), KH. A. Musthofa Bisri (Gus Mus) dan Franky Sahilatua, maka atas restu, dorongan moral maupun spiritual dari para tokoh tersebut maka lahirlah sebuah komunitas musik Sanggar Ki Ageng Ganjur Yogyakarta pada tahun 1996.

Dalam perkembangan selanjutnya, Ki Ageng Ganjur telah berhasil meluncurkan album perdananya bertajuk “Tadarus Budaya” (1997) yang berisi lagu dan komposisi musik arransement Ki Ageng Ganjur disertai orasi dari Gus Dur. Sedangkan album kedua bertajuk “Ziarah Rasul” (1999) berisi lagu-lagu dan arransement lagu-lagu shalawat karya Ki Ageng Ganjur.Selain telah memasuki dunia rekaman, Ki Ageng Ganjur juga telah melakukan pementasan terbuka hampir di seluruh kota di Pulau Jawa, Bali dan Sumatera serta berbagai macam paket acara di televisi pemerintah maupun swasta dengan dukungan sponsor dari berbagai perusahaan serta melibatkan banyak artis ibukota baik dari jenis musik pop, dangdut maupun rock ditemani beberapa pelawak senior di negeri ini.