東關清真大寺始建于公元1380年左右的明洪武年間，在青海省內規模最大，歷史悠久，與西北地區著名的西安化覺寺、蘭州橋門寺、新疆喀什艾提卡爾清真寺并稱為西北四大清真寺。據現存寺內的《重建西寧大寺碑記》（1914年5月立）和《重建西寧東關大寺碑記》（1948年8月立）兩塊碑文記載，可以看出這座大寺已經具有600多年的歷史。它是一座融塔、墻、殿為一體的伊斯蘭建筑，正中的禮拜大殿為全寺最大的建筑物,占地1102平方米。整個建筑式樣別致，結構分明，每逢禮拜、三大宗教節日，數以萬計的穆斯林匯集在此舉行隆重的聚禮活動。東關清真大寺是伊斯蘭經學研究的最高學府，在海內外享有盛譽。
東關清真大寺是西寧市一座規模最大，保存最為完整的古代建筑。是青海省目前最大的伊斯蘭教寺院，也是西北地區四大清真寺之一。該寺坐落在西寧市東關大街，洪武年間，明太祖朱元璋分封鋪佐他開國有功的回族將領沐英為西平侯，鎮守今甘青地區。當時明王朝通過屯兵、移民等一系列實邊措施，居住西寧的穆斯林居民日漸增多。為了適應廣大穆斯林宗教生活的需要，沐英應回族上層及宗教人士的請求，并奏請朝廷允準，在回族聚居的東關地區動工修建清真寺。不久，一座占地面積達28000平方米，修有2000余平方米的大殿，兩個宣禮塔、一座碑亭院及一些輔助建筑物的清真大寺，在今西寧東關大街拔地而起。
至清咸豐、同治年間，西寧等地的回族先后加入到全國反清大起義的行列之中，西寧遂成為這一帶回族撒拉族起義軍的大本營。同治十二年，左宗棠率軍隊進行鎮壓，東關大寺及所藏石碑、圣旨等文物均毀于一旦。光緒二十一年（公元1895年），河湟地區又發生了震驚清王朝的“河湟事件”，西寧東關清真大寺的命運正如《碑記》所言：“屢經兵燹，其地遂廢”，“后來屢議興復，卒以不得地基而止”。
辛亥革命以后，甘肅河州（今臨夏）的馬麒任甘邊寧海鎮守使。他到任不久即于民國2年5月，親自“捐資為倡”，募集白銀萬兩，重新在被毀的廢墟上動工修建清真大寺。一年后，一座初具規模的大寺又告建成，計建有：大殿5間，宣禮塔3層，東廳5間，北廳9間，南廳浴室3間，寺門3間，還有廚房，餐廳等。
西寧東關清真大寺占地總面積為13602平方米，建筑物雄偉壯觀，具有中國古老的建筑藝術和伊斯蘭教特色。大寺的原正門，即“前三門”，座南朝北，是一大兩小的綠色西式大門，高十米，寬為十五米，門頂橫幅匾額上鑲有金光閃閃的“西寧東關清真大寺”八個大字（前三門現處在清真大寺臨街樓房之前）。
該寺已有500多年的歷史。該寺正中是可以容納3000人進行禮拜的大殿，面積約1102平方米。大殿上裝飾有金光燦燦的藏式餾金寶瓶。據說，這只寶瓶是大殿修成后，由甘肅拉卜楞寺的僧眾集資捐送的，為國內清真寺所僅有。大殿內的幾根巨大的柱子，則是由互助佑寧寺從寺院的松樹林中挑選贈送的。此大殿為中國古代宮殿式建筑，純系磚木結構。建筑堅固，結構嚴謹，外形宏偉壯觀，內部清靜素雅。大殿南北兩側是兩座兩層的廂樓，為歇山式建筑。大殿和廂樓緊相毗鄰，渾為一體，十分協調。這三座建筑是該寺主體，也是寺內的精華所在。整個建筑飛檐斗拱，雕梁畫棟，描金涂彩，顯得艷麗華貴，蔚為壯觀。大殿前和廂樓之間是一塊占地約2.8萬平方米的廣場。場內鋪著青石板，石板雖大小不一，形狀各異，但卻巧排密布，平整如鏡，不露泥土。因此，晴天無塵埃，雨天無泥濘。
廣場外，是花崗巖巨石砌成的前三門，三門高約五丈，寬約七丈，顯得古樸莊重，雄偉崇宏。三門兩側聳立著兩座高大的鳴經樓，也叫喧禮塔。塔頂裝飾有兩個非常精致的小經筒，據說是湟中塔爾寺贈送的寶物。出去前三門，是一個三角形的小院。出了小院便是臨街的西式大門，門頂上方，嵌有"東關清真大寺"六個金光閃爍的大字，同鵝黃色的大門溶為一色，賞心悅目，格外雅觀。
1997年西寧市政府決定對其進行改造，并于
該寺自建成以來，一直是西寧地區廣大穆斯林禮拜和集會的重要場所。每逢主麻日和爾德節，附近伊斯蘭教信徒，紛紛來到這里禮拜，少則上千人，多則上萬人。解放以后，人民政府曾多次撥出專款進行修繕，使這座寺院不斷放射出綺麗的色彩。現在，該寺為四方人士游覽的重要場所。每年都有大批中外游人到此觀光。
東關清真大寺，不僅是廣大穆斯林群眾宗教活動場所，而且也是伊斯蘭經學研究的最高學府。民國以來，伊斯蘭教伊赫瓦尼教派的創始人及其繼承人，將該寺作為海乙寺（即中心寺）。培養造就了一大批伊斯蘭教學者。甘青近千座清真寺的開學阿訇，由該寺選派或認可，因而在海內外享有聲譽。
