傳說是一姓張的讀書人，在當地很有名望，死後以好棺埋之，後黃河發大水，水將其棺衝開，並流至現在的張君墓處，後人將棺被水衝至的地方稱之爲張君墓。 經河南省人民政府批准，同意蘭考縣張君墓鎮更名爲考城鎮，所轄行政區域和政府駐地不變。 張君墓鎮作爲中州名鎮，鎮名含“墓”字，與傳統民俗不符，缺乏文化底蘊。爲秉承歷史淵源，彰顯厚重文化，順應民衆呼求，根據《河南省地名管理辦法》有關規定，省政府同意將張君墓鎮更名爲考城鎮。
