Кроме ступ и окружавших их оград и ворот, из архитектурных памятников многовекового периода, предшествующего династии Гуптов, до нашего времени сохранились главным образом искусственные пещеры, предназначавшиеся для религиозных целей.
Наиболее древние из них свидетельствуют об имитации деревянных зданий, и это служит убедительным доказательством того, что строительство из камня находилось еще в зачаточном состоянии. Так, например, две пещеры в Барабаре, недалеко от Гайи, дарованные Ашокой монахам-адживикам, имеют форму простого прямоугольного внешнего зала, в конце которого находится внутреннее помещение с закругленными стенами и выступающими карнизами. Очевидно, пещеры заменили традиционное место религиозных собраний – круглую, крытую тростником или соломой хижину, и строитель пещер еще не мог преодолеть привычную для него форму.
Пещеры в Барабаре и Нагарджуни лишены украшений, кроме одной в Нагарджуни, вблизи Барабара, имеющей сравнительно простой резной вход, добавленный в эпоху Маурьев или вскоре после нее.
Пещерные храмы и монастыри более позднего времени встречаются во многих районах Индии, но самые большие и знаменитые искусственные пещеры были вырыты при Сатаваханах и их преемниках в Западном Декане. Наиболее древняя из деканских 380 пещер, находящаяся в Бхадже (недалеко от Пуны), состоит из вырубленного в сплошной скале глубокого сводчатого зала; вдоль его стен ряд простых восьмиугольных колонн поддерживают вогнутые стрелки, высеченные на полукруглом потолке для имитации свода деревянного здания.
Одновременно с залами чайтьи все более грандиозными по размерам и украшениям становятся примыкающие к ним и также вырубленные в скале монастыри, так называемые сангхарамы. По мере того как пещерный монастырь становился мал для его обитателей, рядом высекали новую пещеру, и таким образом на протяжении столетий создавался целый пещерный комплекс.
Но, пожалуй, даже более сильное впечатление производят сравнительно поздние пещерные храмы в Элуру, возле Аурангабада, милях в тридцати от Аджанты. Здесь находятся по крайней мере 34 пещеры, созданные в период с V по VIII в. н. э., из которых большинство является индуистскими храмами, но есть также храмы буддийские и джайнские. Жемчужина Элуру – замечательный храм Кайласанатха, высеченный по повелению раштракутского царя Кришны I (около 756–763).
Храм Кайласанатха почти равен Парфенону по площади и в полтора раза выше его. Однако для его сооружения потребовалось меньше труда, чем для строительства подобного же каменного храма, поскольку не возникала проблема транспортировки строительных материалов и не было необходимости в строительных лесах: храм высекали, начав с вершины скалы и постепенно углубляясь к ее подножию.
Кайласанатх не самый ранний храм, высеченный из сплошной скалы. В Мамаллапураме, на берегу моря, приблизительно в 30 милях к югу от Мадраса, находится группа из 17 небольших храмов, высеченных из обнажившихся гранитных монолитов в VII в., при династии Паллавов. Самые знаменитые из них, Семь пагод, всё еще обнаруживают влияние деревянного строительства.
Кайласанатх, точно имитирующий каменный храм, свидетельствует о том, что индийцы давно уже знали искусство строительства из камня и что их более не удовлетворяла древняя форма пещерных храмов. Начался великий период средневекового храмового строительства.