正统六年(1441年)，于谦上书说：“河南、山西各自储存了数百万谷物。请于每年三月，令各府州县上报缺粮的贫困户，把谷物分发给他们。先给菽秫，再给黍麦，再次给稻。等秋收后还给官府，而年老有病和贫穷无力的，则免予偿还。州县吏员任满应该提升时，储存预备粮达不到指标的，不准离任。并命令监察官员经常稽查视察。”下诏令照此执行。河南靠近黄河的地方，常因水涨冲缺堤岸。于谦令加厚防护堤，计里数设置亭，亭有亭长，负责督促修缮堤岸。又下令种树、打井，于是榆树夹道，路上没有干渴的行人。大同单独远在边塞之外，巡按山西的人难于前往，奏请另设御史管理。把镇守将领私自开垦的田全部收为官屯，用以资助边防经费。他的威望恩德遍布于各地，在太行山的盗贼都逃跑或隐藏起来。在职九年，升任左侍郎，领二品官的俸禄。成为了重臣。
当初，杨士奇、杨荣、杨溥主持内阁朝政，都很重视于谦。于谦所奏请的事，早上上奏章，晚上便得到批准，都是“三杨”主办的。但于谦每次进说商议国事时，都是空着口袋进去，那些有权势的人不能不感到失望。到了这时，“三杨”已经去世，太监王振掌权。于谦入朝，推荐参政王来、孙原贞。通政使李锡逢迎王振的指使，弹劾于谦因为长期未得晋升而心生不满，擅自推举人代替自己。把他投到司法部门判处死刑，关在狱中三个月。后来百姓听说于谦被判处死刑，一时间群民共愤，联名上书。王振便编了个理由给自己下台，称从前也有个名叫于谦的人和他有恩怨，说是把那个“于谦”和被关起来的于谦搞错了，才把于谦放出来，降职为大理寺少卿。山西、河南的官吏和百姓俯伏在宫门前上书，请求于谦留任的人数以千计，周王、晋王等藩王也这样上言，于是再命于谦为巡抚。当时的山东、陕西流民到河南求食的，有二十余万人，于谦请求发放河南、怀庆两府积储的粟米救济。又奏请令布政使年富安抚召集这些人，给他们田、牛和种子，由里老监督管理。前后在任共十九年，他父母去世时，都让他回去办理丧事，不久便起用原职。