金濂是明朝前中期的一名官员，出生于淮安府山阳，也就是现在的江苏省淮安市淮安区人。他从小就比较的警敏豁达，遇到不懂的地方会十分积极地跑去询问懂的人，读书更是十分认真，最终于永乐十六年成功考中进士，被授予了湖广道监察御史的官职。
到了宣德初年的时候，金濂被改去了广东巡按，其间保持了清廉的作风，后又相继前往江西、浙江等地区去巡按，都获得了一定的贤声。在浙江的时候，当地出现了一个叫做史庆真的巨盗，其活动十分的猖獗，当地的官府大多都无法阻止其到处劫掠。起初的时候，金濂也无法将这巨盗抓获，他因此遭到了免职的处分，后来成功将这巨盗抓获后，方才得以官复原职。
金濂曾经上书表示，目前天下各地的很多郡县官员都或多或少地存在着贪污受贿的情况，陛下应该下令让各地的按察司、巡按御史去察举出一些比较清廉的官员，仿照洪武时期的先例，进行公开表扬和奖赏，这样一来，就会有更多的官员以当清官为荣，以当贪官为耻。金濂的建议得到了朱瞻基的认可和表扬，在别人的举荐下被提拔为陕西副使。
英宗皇帝朱祁镇刚刚上任之后，金濂上书建议给一些卫所补充军官，增加宁夏地区的驻守士兵，同时请求设置汉中镇守都指挥使，这些建议大多都得到了朝廷的认可。
正统三年时，金濂被提拔为佥都御史，并参赞宁夏军务。金濂向来富有心计，善于谋划事务，使得明王朝的西部边陲变得安定许多。同时，金濂还下令疏浚了鸣沙洲、七星汉、伯石灰三渠，灌溉了芜田一千三百余顷。此外，鼓励富商输米助边，达到一千石这个数额的，朝廷给予一封玺书进行嘉奖，边地的粮食储备也因此变得丰腴起来。
正统八年的秋天，金濂被拜为刑部尚书。正统十一年时，安乡伯张安和弟弟争禄，被有关部门下令给逮捕进狱。仅仅因为争夺俸禄，没有其他过分事情，就把人家逮捕入狱，这明显是不符合当时明王朝的法律规定的。然而这个逮捕命令是哪个部门下的，刑部和户部就此互相推诿，表示此事不是自己干的。
很多言官就此弹劾，刑部尚书金濂和户部尚书王佐，右都御史陈镒，侍郎丁铉、马昂，副都御史丁璿、程富等人，最终这些人都被朱祁镇逮捕入狱，但没过几天就将其释放出来。
不久后，福建北部山区发生了由邓茂七和叶宗留所领导的农民起义，这些起义军四处打游击，福建、陕西、浙江三省的官员都无力阻挡。很快朝廷便委派都督刘聚、都御史张楷带军出征，结果被农民军击溃。
正统十三年十一月时，朝廷再度大规模起兵，下令让宁阳侯陈懋等人带领大批队伍再度过去征讨，其中金濂也负责过去参赞军务。等到他们到了福建之后，邓茂七的农民军已经被御史丁瑄击溃了，邓茂七本人在乱战被打死，他的兄子伯孙被农民军残部拥立为新的领袖，盘踞在九龙山一带，继续顽强抵抗着。
金濂和众多将领一起谋划，用一些羸弱的老残士兵引诱敌军出战。等敌军出来后，再用事先埋伏好的精兵，攻入敌人的堡垒，成功擒获了首领伯孙，彻底平定了这场农民起义。过后，金濂被加了太子宾客，并给二俸，不久后便改任为户部尚书。
当初，代宗皇帝朱祁钰上位之后，下令在景泰二年的时候，免除天下所有租税十分之三。然而等真的到了景泰二年的时候，身为户部尚书的金濂却私自下发公文，要求各司官员主要减免米麦十分之三，剩下的折收银两和布匹丝帛的照旧十成征收。
到了景泰三年二月份的时候，学士江渊要求户部出来给个说法，查清楚究竟有没有这回事。命令是户部尚书金濂自己发出去的，他自然心里清楚是有这回事了，心里感到十分惭愧，但嘴里依旧抵赖称自己没有下过这个命令。
这时候有一个叫做李侃的给事中上奏，请求朝廷查清楚各部门官员是否存在违规履行诏令的情况，金濂心里很害怕自己所撒的谎要被捅破了，便主动上书表示：“当年的那封诏书，没有明确记载说，老百姓所折合缴纳的银布丝帛，也需要减免十分之三，所以我下令让各司官员十成征收是不违反诏令的，如果我当年全部减免三成的话，那么今天国家有哪里来有足够的前去开支呢？
此话一出，很多给事中和御史都弹劾金濂，谴责他失信于民，让人民怨恨自己的国家。同时还揭发了各种坏事。起初，朱祁钰想要宽宥金濂的罪过，但给事中李侃和御史王允力争，要将金濂依法治罪，朱祁钰无奈只得将金濂逮捕入狱，但仅仅过了三天便将其给释放出来，并将其改到工部去任职。
后来，吏部尚书何文渊表示理财非金濂不可，于是乎朱祁钰才下令让金濂重新回去户部任职。金濂本人最终于景泰五年去世。
