Bhaja Mağaraları M. ö.200 civarında Budist rahibeler tarafından inşa edilmiştir. Karli'de bulunan bu mağaralar, Arap Denizi'nin doğuya doğru Deccan'a doğru uzanan eski bir ticaret yolu üzerindedir. Bhaja Mağaraları, stil ve mimari tasarımlarda Karla Mağaralarına benzer. Popüler olan, bir arabadaki bir prens, bir fil üzerinde oturan bir prens, üç silahlı savaşçı ve dans eden çiftler gibi çeşitli heykelleri tasvir eden 22 Kaya mağarasıdır. Kayaya oyulmuş 22 mağaradan ilk mağara, mağaraların efendisinin yerleşim yeridir. Sonraki on, bir mağaranın Chaitya salonu (Chaityagriha) olduğu Budist viharas'tır. Nefli ve koridorlu diğer yedi mağara, patronun ayrıntılarını içeren yazıtlara sahiptir.
