唐朝时的寺院规模宏大，有“骑马闯山门”的传说，据“龙禅法师碑”载：“神木灵草，凌岁寒而独秀，夜暗花明，逾严霜而霏萃。岂直风高气爽，声闻进道之场，故亦临水，面菩萨会真之地。又于寺院造大堵坡（即佛塔），塔周回二百步，直上一十三级……重重佛事，穷鹫岭之分身；种种庄严，尽比丘之异宝。”当时，武则天和唐高宗都曾来此礼佛，并“倾海国之名珍”、“舍河宫致密宝”，赐给香积寺。因善导在长安拥有众多信徒，这里又供奉着皇帝赐给的法器、舍利子，故前来瞻仰、拜佛的人络绎不绝，香火极盛。

    唐“安史之乱”和唐武宗灭佛事件中，香积寺遭到严重破坏。直到宋朝时，净土宗流行，香积寺又得到修复。宋太平兴国三年（978年），香积寺又改名为“开立寺”，不久又恢复了原名。宋、元期间，长安衰落，寺院年久失修，到明嘉靖年间才进行了大规模的修复。清朝时，香积寺仍保持明朝的规模，并进行了修葺。直到清末，寺内还保存有许多金石文物，仅历代雕刻就有119件。 建国后又曾大规模整修，现为陕西省重点文物保护单位。