黑水城遗址始建于西夏时期，当时西夏王朝在此设置“黑水镇燕军司”。黑水城是西夏在西部地区重要的农牧业基地和边防要塞，是元代河西走廊通往岭北行省的驿站要道，西夏十二监军司之一黑山威福司治所。
历史传说
在额济纳旗境内的鄂木讷河东岸，距今旗府所在地——达来呼布镇35公里的戈壁，有一座西夏，元代古城的遗址。每当人们慕名来此游览，行至距古城10余里时就能望见高耸在古城西北角上的那座著名的白塔，在缥缈的浮云中时隐时现，神秘莫测。
在当地的土尔扈特蒙古族（这些土尔扈特部部分是清朝18世纪从俄国伏尔加河归来后安置在内蒙古草原的，另一部分在新疆）中，至今流传着有关这座古城的一些故事。
相传，在很久以前，有位名叫哈日巴特尔（直译为黑英雄）的蒙古族将军，在此筑城镇守。久而久之，人们便称哈日巴特尔为黑将军，此城便称为黑城。由于哈日巴特尔骁勇善战，不但晋升为将军，并深得皇帝欢心，将自己的小女儿许配给黑将军做哈敦（译意夫人）。后来，黑将军羽翼渐丰，权势强盛，竟然觊觎皇权，企图一统天下。
正当与心腹们密谋怎样篡夺皇位之时，这一阴谋被公主得知。她便将黑将军阴谋篡权的消息报告了父皇。皇帝在盛怒之下派数万大军进攻黑城，悬赏捉拿哈日巴特尔。但是大军为攻陷黑城打了多次大仗，均无取得根本性胜利，为不使黑将军逃脱，只好把黑城围困起来。
皇帝得知久攻不破的消息后，便请巫师卜卦，卦象说：“黑城地高河低，官军围城在城外打井无水，而城内军民却不见饥渴之象，必有暗道通水，如将水道堵截，则必胜无疑。”于是，皇帝又增派一万大军赴鄂木讷河上游的咽喉部位，随着巫师们高声诵讼着《护律·夏日毕其格》（意即法律黄书），军士们用头盔盛着沙土，很快地截断了河水，并筑起一道巨大的土坝。
不几日，只见城内人畜饥渴，近城的禾苗枯萎。黑将军便令士兵在城内掘井，在挖掘中每每眼见出水，一会儿又见底了，就这样直挖到八十丈还是不出水。在这饥渴难忍、万般无奈的情形之下，黑将军只得下令准备突围。临行前，他把全城的金银财宝投入井中，又对自己的两个儿女说：“你们去做财宝的主人吧！”，并祝愿说：“愿来日有个骑秃头青虻牛的人来将我们财宝取走”。随后，便将一男一女两个孩子也活活埋入深井。又令士兵连夜凿通北部城墙，率城内尽数兵马冲出，杀出了一条血路突围北上了。
传说：在黑城方圆二十里的地方打井都是涸井，是因当时皇帝所派的数万大军堵塞河道时，由巫师念了“法律黄书”所致。在城池内，每当风雨过后所能见到的青、白色的两条长蛇，便是黑将军两个孩子的化身。在黑城附近因无水所死的树木也都是追随黑将军突围出逃的方向而伏。
至今，在久经风蚀沙埋的情况下，在黑城遗址西北角城墙上所开的那个可容骑驼者进出的洞口，相传就是当年黑将军突围的洞口；在城池内偏西北的那个大坑，相传就是当年不曾出水而用来埋藏了全城财宝的那口深井；而被当地人称为“宝格德波日格”的那座高大沙岭，相传就是当年大军截水所筑的大坝；在黑城附近枯木的倒向，便是因长期缺水和本地大都是西北风所致。
