于谦，祖籍河南省考城县(今兰考县堌阳)，1398年出生于浙江钱塘(今杭州)，24岁时中进士。宣德五年(1430年)被任命为兵部右侍郎兼都御史，巡抚河南、山西。
黄河河务是当时河南地方官的重要职责，于谦在河南巡抚期间对此十分重视。于谦在河南的18年中，黄河在河南境内只溃决3次，而开封附近一次也没有，当然这和于谦重视堤防，沿堤广植树木，加固堤基，加强巡查是分不开的。
当然黄河在开封没有溃堤并不代表没有险情。有一年黄河水势上涨，逼近开封城垣，形势十分危急，于谦亲临第一线，组织和指挥人民抗洪斗争，并把皇帝亲赐给他的蟒袍丢到河里，表示誓死战胜洪水的决心，终于稳定了人心，战胜了洪水，保住了开封城池。就在这次大水之后，于谦加紧了开封护城堤的建设和铸造了一尊镇河铁犀。
于谦巡抚河南后，体察民情，在城北人民构筑土堤抵御黄水的基础上，以工代赈，发动民工和征调士兵，参加修筑开封护城堤的巨大工程。堤从开封城西修起，至城北，再至城东三面，经过正统五年(1440年)那场大水的考验，于谦对开封护城堤的建设更加重视，城西、城北、城东三面护城堤于正统十一年(1446年)胜利完工，全长20余公里，堤宽六丈，高两丈余。有效地保卫了开封的安全。堤上五里一亭，派有专人看守，护堤巡防。堤两侧则广植树木，防止堤土流失。每至春夏季节，林木茂盛，郁郁葱葱，形成了一道护城的绿色屏障。
明正统十三年(1448年)黄河在荥阳姚村决口，经中牟、开封城西之杏花营、城东之陈留，向东汇涡河后入淮，这时的开封城处于黄河北岸，城南变成了泛区，连续三年患水。至明景泰二年(1451年)河南巡抚王暹，接续于谦开封护城堤之未竟工程。在开封城南筑护城堤15公里许，东西两端与原来的护城堤接轨，至此一条周长40公里完整的环行护城堤终于全部完成。
明弘治六年(1493年)黄河主流再次改道，从开封城北10公里左右处向东流去，开封段沿黄河两岸筑起了新的黄河大堤，开封护城堤退居二线。但作为历史遗迹，作为城市外围不多见的护城堤防，仍应受到保护，并发挥其在城市绿化和环境保护中的独特作用。
开封镇河铁犀最初被安放在开封回龙庙里。明崇祯十五年(1642年)黄河决口，回龙庙被黄河水荡平，铁犀深陷泥淖之中。清顺治年间被人挖出保存了下来。开封沦陷期间，侵华日军将铁犀强行拉至开封城，准备销毁熔铁制造军火，后经铁犀所在地——铁牛村村民奋力抗争，铁犀方躲过劫难，仍然矗立在铁牛村边之堤上。开封铁牛村的居民尽管与铁犀世代相守，只叫铁牛村，而不肯改叫铁犀村。
于谦在巡抚河南、山西期间的施政方针：主张薄赋安民，宽济贫寒，在一定程度和范围内为人民办了不少好事，他个人重名节守情操，为官清廉，不贪不敛，上不攀附权贵，下不卖官鬻爵，既不请客送礼，更不贪污受贿。在他被调回京，离开河南、山西任所的时候，轻车简从，两袖清风。他有一首绝句是这样写的：“手帕蘑菇及线香，本资民用反为殃，清风两袖朝天去，免得闾阎话短长”，另外，他未仕前的一首《石灰吟》“千锤万击出深山，烈火焚烧若等闲，粉骨碎身全不怕，要留清白在人间”更脍炙人口，既可看作是他对自身廉洁奉公的期许。
于谦离汴赴京供职的第二年(正统十四年即1449年)瓦剌入侵，于谦奉命署理兵部，明英宗朱祁镇御驾亲征，土木堡一役，王师50万人马全军覆没，瓦剌掳帝北去，京师震动。群议南渡以避其锋，于谦“定策固守，以社稷安危为己任”，力主另立宣宗子朱祁钰为景帝(代宗)改元景泰。于谦擢兵部尚书。提督各营军马保卫京师，获大捷，深为帝所倚重。每有赏赐辄不受。辞让不掉，便封存起来，不敢妄用。其所作所为，被人目为“身系安危，志存宗社，厥功伟矣的一代名臣”。后于谦组织兵力击退瓦剌，并力劝景帝迎回英宗。景泰八年(1457年)景帝病重。石亨、曹吉祥等发动“夺门之变”，景帝崩。
英宗朱祁镇复辟，以“谋为不轨，迎立外藩”的罪名处死于谦。同时遇难的还有王文、范广等人。
谦等“死之日，阴霾四合，天下冤之”。前往于谦府第抄家的官员惊奇的发现，堂堂兵部尚书家里除了书和日用生活器具以外，竟然没有任何值钱的东西。唯有一座正屋被封闭甚固，启封视之，均是皇上所赐物件，封识记载分明，一丝未动，见者无不泪下。后人评价于谦“有巍巍定难之功;有侃侃立朝之节;有孜孜及民之惠;有徼徼律贪之洁”。确确实实实现了他自己《石灰吟》中所期许的话“要留清白在人间”。