İlkçağ'da Arkhelais adını taşıyan kenti, son Kapadokya kralı Arkhelaos'un Garsuara adlı yerleşmeyi geliştirerek kurduğu sanılmaktadır. Roma İmparatoru Cladius I kente koloni ayrıcalığı tanıdı. Ayrıcalık, Anadolu'daki birçok önemli yolun kavşak noktasında bulunan kentin daha da gelişmesine yol açtı. Bizans ile müslüman Araplar arasında birçok kez el değiştiren şehir Malazgirt Savaşı'nın (1071) ardından Türkler'in egemenliğine girdi. Kılıç Arslan II (1155-1192), yıkık durumdaki Aksaray'ı bir İslâm kenti olarak yeniden kurdu, kentin çevresini surla çevirdi, camii, medrese, çarşı, hamam
vb. yaptırdı. Azerbeycan'dan getirdiği din bilgini, zenaatkâr ve tüccarları kente yerleştirdi. Ticaret yolları üzerinde bulunan Aksaray, Anadolu Selçuklu Devleti'nin önemli merkezlerinden biri olarak gelişti. Selçuklu'lardan sonra Karamanoğulları'nın eline geçti. Bir süre Eretna Beyliği'nin egemenliğinde kalan kente (1341-1365), Karamanoğulları yeniden egemen oldu. 1396'da Yıldırım Bayezid tarafından ele geçirildiyse de Timur istilasından sonra yeniden Karamanoğulları'nın eline geçti. 1467'de Fatih Sultan Mehmet, Aksaray'ı kesin olarak Osmanlı topraklarına kattı. Aksaray Cumhuriyet döneminde 1924'te il durumuna getirildi. 1933'te ilçe olarak Niğde'ye bağlandı. Ancak 1989'da yeniden il oldu.