这对古塔，远望像两个孪生姊妹，亭亭玉立，挺拔秀美，矗立在山口两旁，人称之为“一对千年的西夏美女”。因为年代久远，相传的故事颇多，人们还送给它们许多美丽的名字如：“山神塔”、“海神塔”、“相望塔”、“夫妻塔”、“飞来塔”等等。
根据史料记载，西夏开国皇帝李元昊，通晓浮图之学，所以境内佛教盛行，即使身处战乱时期，仍不忘兴办佛事，其在贺兰山拜寺口修建寺院，作为“避暑宫”。这是为中国最大的西夏皇家寺庙建筑遗址群，随寺庙而建立的双塔，是避暑宫建筑的一个组成部分，西夏辉煌的历史给人留下了许多神秘色彩，其在建筑方面的精湛技艺也令后人赞叹。
明朝万历年间修订宁夏《万历朔方新志》一书，其卷首《宁夏镇北路图》中，在拜寺口就标示有双塔的存在。根据发现的文物推测，双塔于元代时期曾经装修彩绘，进行塔刹的修缮，粉妆了双塔壁面，但塔身则未有大规模的修筑。“遗址尚存，人于朽木中尝有拾铁钉长一二尺者”，经专家以碳-14测定双塔遗址之朽木，认为是西夏中晚期所建。而西塔则早建于东塔。
拜寺口双塔建立在向阳的山坡上，相距约百米，东西对峙，皆为平面八角形十三层、“密檐式楼阁砖塔” 建筑。双塔没有基座，底层较高，由平地直起。塔身华丽绚丽多彩，每层均以各色琉璃瓦来装饰。
除第一层之外，其余各层塔身的八面正中央，皆砌有一浅的长方型壁龛，龛内设置一尊佛像。分别雕塑着护法金刚十六尊，僧人二十四位，罗汉十六尊等。在众多的造像中，有拄杖倚立的老者，有身着法袍的罗汉，以及神态潇洒的壮汉。他们有的腰系长带，项挂璎珞，或手执法器等神态各异。千姿百态，或坐或站，动作自然，展露出浓郁的生活与宗教色彩。
二层以上，每层每面都饰有两个直径30厘米的圆形砖雕彩塑兽面，左右并列。兽面口中衔着红色彩绘连珠流苏七串，呈八字形下垂状。兽面獠牙外龇，怒目圆睁，形态威猛可怖。其形象奇特诚属鲜见。每个佛龛的左右上方，塔身两面的砖折处，又各雕饰有一尊佛像。塔壁的转角处则有“宝珠火焰”、“云托日月”的彩塑图案。这些造像和装饰图案，布满了整个塔身壁面。显示了西夏建筑精湛的雕刻技巧。
塔顶刹座是一排排施以彩绘的上仰的莲花瓣型组成，刹座下平座八角转角处，塑有砖雕蹲踞状护塔力士像，力士裸体昂头挺腹，手托莲座，栩栩如生。塔顶，承托着13层相轮作为，“十三天”宝刹。外檐饰以圆形兽头构件，檐下每面并列装饰两个砖雕兽面，十分威猛。
东塔，砖筑八角形13层，高达45米，从底层到塔顶层收分不大，塔身外观呈直线锥体，外形挺拔，刚直有力，典雅秀丽。每边长2．5米，第一层塔身较高，底层每边长2.93米，无塔基座，第一层层塔身为素面。
第二层以上檐与檐之间的塔身高度逐步依次缩短，越往上越逐层加密。呈现密檐式的显著特点。每层由叠涩棱角牙和叠涩砖构成腰檐，腰檐外挑。塔檐的转角处，又雕有莲瓣。这些砖雕，都是十分珍贵的艺术珍品。
正南方辟有一券门，有一条宽50厘米、高2米的券道，可进入空心筒状塔室。塔室正面墙壁上有彩绘壁画。塔室内第一层高3米，为圆木板阁楼。有70乘50厘米的方孔，并采用厚壁空心式木板楼梯形结构。游客沿梯而上，登上最高层可远眺银川平原。
西塔比东塔稍显得丰满、粗壮、高大、古朴一些，外形和高度与东塔相似。砖筑14层，外形整体呈抛物线状，残高41米，底层边长 3.1 米。有一高1．5米、宽40厘米的券门，可进入直径2．5米的圆形塔室。正面墙上有金色菩萨像彩绘壁画，旁绘有各色人物、器皿，色泽光彩夺目。
西塔的第十层正东的平座上，置有一完整的绿色琉璃套兽。正东面第十二层佛龛内右侧上方，发现有西夏文遗迹。塔顶佛龛内有一根六个棱面、直径约30厘米的木质中心刹柱，柱上有梵文字以及墨书的西夏文题记。刹座的穹室内则发现有梵文题记11条、西夏文题记 6条、彩胶漆绢佛画2幅、喜吉金刚像2尊，元代中统交钞2张、银币1枚、绢纸供花2束、小供桌1张、为研究西夏和元代的佛教艺术，提供了宝贵的线索。
明清时期，银川地区地震频繁，尤以清乾隆三年十一月二十四日(西元1739年1月3日)发生的八级以上地震尤巨，附近的建筑均被震毁，可是双塔却傲然矗立于崇山峻岭之中，充分体现了西夏建筑的高超技术。
双塔既有中原砖塔的建筑特色，又有西夏藏传佛教的风格，集雕刻、绘画以及佛塔建筑艺术于一体。双塔造型精美，雄伟壮观是中国佛塔建筑史上的艺术珍品。
早在远古时代，西夏这个集高山、绿洲、大漠、黄河于一体的边陲重地，创造了许多辉煌灿烂的文化。屹立于贺兰山下的拜寺口双塔及寺庙建筑群遗址，始终见证着一个曾经辉煌而又神秘的西夏王朝的昔日盛景和精湛的建筑技艺。
