顾宪之字士思，是吴郡吴县人。顾宪之不到二十岁，被州里任命为议曹从事，推举为秀才，历任太子舍人、尚书比部郎、抚军主簿等职。元徽年间，任建康县令。当时有人偷了他人家的牛，被牛的主人认出来了，偷牛者说这牛是自己的，两家都有证据，两任县令都不能断决此案。顾宪之到任后，放下状词，对两家主人说：“不要多说，我知道了。”下令把牛绳解开，任牛自己随便走，结果牛径直回到主人的家里，偷牛者才认罪。每每发现奸情找出隐情，多像这样，当时人称他为神明。对有权有势的人有罪请人说情，官吏贪污残暴，都依法惩治，从不包庇。为人清廉节俭，勤政奉公，得到民众的拥护，所以京城喝酒的人喝到好酒，就称为“顾建康”，意思是说其为政如酒色清醇，味道甜美。
后又任车骑功曹、晋熙王友。齐高帝执掌政权时，顾宪之任骠骑录事参军，迁任太尉西曹掾。齐台建立时，任中书侍郎。齐高帝即帝位后，任衡陽内史。在此之前，衡陽郡内连年发生瘟疫，有大半人死了，棺材特别贵，于是用草席包裹死尸丢在路旁。顾宪之从车上下来，分别告诉所在的县官，寻找死者的亲属或族人，埋葬死者。有的人家全部死亡，顾宪之便拿出公款让纲纪营办理丧事。原来旧俗，活人有病就说是他们的祖先在作祟，都挖开坟墓，打开棺盖，用水冲洗死者的尸骨，意思是除去鬼祟。顾宪之传下命令通知各地，活人与死人是有区别的，疾病与死人无关，这一风习才改掉。当时刺史王奂刚到任，只有衡陽县没有诉讼案件，便感叹地说：“顾衡陽教化民众极好。若九郡都像他一样，我还有什么事情可做呢！”
又升任太尉从事中郎，出任东中郎长史、行太稽郡事。山陰人吕文度受到齐武帝的宠信，在余姚建了官邸，横行乡里，很霸道。顾宪之到任后，就上表请求罢黜他。吕文度后来回家安葬他的母亲，郡县官民争相前去吊唁，顾宪之对此不闻不问，吕文度很忌恨他，但最终也不能伤害他。又改任中郎巴陵王长史，加封建武将军，代理婺州郡守。当时司徒竟陵王在宣城、临成、定陵三县交界处设屯垦地，封锁山林河湖几百里，禁止人民砍伐、捕鱼，顾宪之坚决反对，言词很直。竟陵王回答他说：“不是您，我听不到这样的好建议。”于是下令取消禁令。
又改任给事黄门侍郎，兼尚书吏部郎中。刘宋时，他的祖父顾觊之曾在吏部做官，在庭院中栽了棵树，对人说：“这树是为顾宪之种的。”到现在顾宪之果然做了吏部的官。出京任征虏长史，代理南兖州郡守，碰上母亲死了。守丧完毕，建武年间，又任给事黄门侍郎、步兵校尉，没有正式授任，又改任太子中庶子，任吴县中正。出京任宁朔将军、临川内史，未到任，改任辅国将军、晋陵太守。不久生病，上书请求离职，回到家乡。永元初年，征辟为廷尉，没有授任，任豫章太守。有一位贞妇叫万..，年轻时守寡没有小孩，对公婆很孝敬，她的父母想强迫她改嫁，她宁死也不同意。顾宪之赏赐给她五匹丝帛，表扬她的贞操。
中兴二年(502)，义军攻占建康城，高祖任扬州郡守，征召顾宪之为别驾从事史。后来，高祖登皇帝位，顾宪之的病也慢慢加重，坚决要求回老家吴县。天监二年(503)，在家里授任太中大夫。顾宪之虽多次任郡守，家里积蓄的米粟不多，回乡后，居房狭小简陋，受冻挨饿。八年(509)，在家中死去，终年七十四岁。