拓跋云的长子元澄，字道镇，从小爱好学习。任城王拓跋云死后，元澄在居丧期间以孝闻名。继承王位后，被加封为征北大将军。高祖孝文帝元宏时，柔然国进犯边境，任命元澄为使持节、都督北讨诸军事，率军征讨。柔然退走，又因氐羌反叛，任命元澄为都督梁益荆三州诸军事、征南大将军、梁州刺史。冯太后接见元澄，对他进行了一番严厉的训诫，当着他的面对中书令李冲说：“这小伙子意气风发，神态、谈吐优雅，一定会成为宗室的领袖。此行一定要让他使我称心如意。你记着，我对别人从不妄加评论。”梁州氐族酋长杨仲显、婆罗、杨卜兄弟及符叱盘等人，自以为盘踞在边远险峻之地，世代占山为王。元澄抵达梁州后，依照他们的风俗习惯，诱导他们归顺朝廷。向朝廷举荐婆罗，任命杨仲显为循城镇副将、杨卜为广业太守、符叱盘为固道镇副将，其余头目，各自量才录用，归顺者赏，违抗者杀，于是仇泄地区风平浪静，西南安定。因此元澄被加封为侍中，赐给御衣一件、御马一匹，以示表彰。
后来，元澄转任征东大将军、开府、徐州刺史，很有政绩，声望日高。入京朝见时，孝文帝在皇信堂召见了他。孝文帝问元澄：“昔时郑国的子产铸刑书，而晋国的叔向颇有非议。这二人都是贤士，究竟谁对谁错？”元澄答道：“郑国弱小，受到强大邻国的威胁，民心的背向，不借助刑罚就无法控制，所以铸刑书以显示威严。虽然背离古制，却符合当时的政治需要，因此就顺时济世而言，子产是对的。叔向对此的讽刺非议，表示他不忘古制，可以与他论道，却不能与他讨论权变之术。”孝文帝说：“你是想当咱们魏国的子产喽。”元澄说：“子产顺应时代潮流，名垂青史。臣目光短浅，庸碌无能，怎敢与子产相提并论。如今陛下以四海为家，广宣道德教化以安抚天下，但长江以南尚被敌国占据，天下还未统一，乱世之民，易被威势慑服，难用礼制治理。臣愚蠢地认为，子产的方法还是应暂时采用，统一天下之后，再从根本上用道德礼乐教化百姓。”孝文帝当时正在考虑改革，对元澄的回答深为赞许，笑着说：“非任城王不识变化发展的大体。朕正要改革国家体制，当与你共创这万世的功业。”
后来，元澄升任中书令，又改任尚书令。南齐武帝萧赜派庾荜出使北魏，庾荜见元澄声音洪亮，谈吐优雅，风姿秀逸，对主客郎张彝说：“往日魏国的任城王以勇武著称，今日的任城王则以风度气质取胜。”当时，孝文帝曾下诏，在皇信堂宴请四座皇家祖庙的子孙，不按爵位官品，而是按辈分年龄的大小确定座次，互相间只行家人之礼。孝文帝说：“行礼已毕，想要宗室兄弟各言其志，大家可以尽情地赋诗言志。”特命元澄作七言连韵体诗，与孝文帝你来我往相互唱和，以比个输赢，大家玩得极为尽兴，至深夜才散。
不久，孝文帝以征讨南齐为名，意在商议迁都之事，召集群臣在明堂左室斋戒，命太常卿王谌亲自占卜，卜问南征之事，得到“革”卦。孝文帝说：“这是汤武革命，应天命顺人心之卦。”群臣都不敢开口。元澄挺身而出，说道：“《周易》说，革，是变更的意思。预示变革君臣之道的应天命顺人心，所以商汤、周武王得到这个卦象是大吉大利。陛下君临天下，继承弘扬先代的业绩，如今既是占卜征伐，得到的卦象只说明可以讨伐敌人，并不意味着改革可以取得成功。这并非预示统治稳固的卦象，不能算十分吉利。”孝文帝厉声说道：“《象辞》说：‘大人虎变’，怎么能说不吉利！”元澄说：“陛下登基已久，怎么才像老虎一样脱胎变骨呢！”孝文帝勃然大怒：“国家，是我的国家，任城王你想蛊惑人心吗？”元澄说：“国家确实是陛下的国家，然而我是国家的大臣，参与重大决策，怎敢不尽心竭力。”孝文帝锐意革新，志在必行，对元澄的言论大为不满，过了很久怒气方消，说道：“各言其志，也没什么不好。”回宫之后，马上召见元澄。元澄还未登上台阶，隔着很远孝文帝便说：“刚才‘革卦’的事，现在还想与你辩论。我在明堂上发怒，是怕大家齐声附和，阻碍我的改革大计，所以疾言厉色以震慑群臣，你应该了解朕的用意。”于是摈退左右，对元澄说：“朕知道今天要做的这件事，确实很不容易。我国兴起于北方，迁都平城之后，虽幅员辽阔，但远未统一天下，平城只适合指挥征战，并不利于推行文治，要移风易俗实行政治文化体制的改革，确实非常困难。崤函、河洛之地，才是真正的帝王之都，因此我才打算大举南迁，迁都中原，你认为如何？”元澄说：“伊、洛地处中原，均为天下必争之地，陛下统治华夏，荡平九夷，人民得知陛下迁都中原，定会大加庆贺。”孝文帝说：“北方人留恋故土，忽然得知将要南迁，不能不惊恐騷动。”元澄说：“这既是非同寻常之事，当然不会被常人所理解，只要陛下作出决断，他们又能怎么办。”孝文帝说：“任城王，你就是我的张子房。”于是加封元澄为抚军大将军、太子少保，兼尚书左仆射。孝文帝驾临洛陽，作出迁都的决定，下诏说：“迁都之事，必须征求大家的意见。当派任城王返回平城，征询文武百官的意见，讨论可否施行。近日讨论过‘革’，今天才真称得上是‘革’哩，任城王你可要勉力而行。”元澄回到平城之后，众人听了迁都的诏书，莫不惊骇异常。元澄谈古论今，引经据典，徐徐开导，众人才疑云渐消，茅塞顿开。于是元澄南驰回报孝文帝，在滑台与孝文帝相遇。孝文帝大喜道：“要不是任城王，朕的事业就不能成功。”元澄跟随孝文帝抵达邺宫，被任命为吏部尚书。
孝文帝抵达平城后，继续向北巡视，留元澄在平城考核旧有官吏。当初，北魏自公、侯以下至于候补官员的总人数，数以万计，冗员充斥，无所事事。元澄按照品德才干将官吏分为三等，考核他们的优劣，量才任用，大家都毫无怨言。孝文帝回到洛陽后，命元澄兼任尚书右仆射。
孝文帝抵达北邙后，驾临洪池，命元澄与他同乘龙舟，赋诗抒怀。孝文帝说：“朕昨夜梦见一老翁，鬓发雪白，正冠整衣，拜立路旁。朕十分奇怪，问他是什么人，他自称是晋朝侍中嵇绍，在此迎候。神色局促不安，似有所求。”元澄答道：“晋末大乱，嵇绍以身卫主，死在皇帝身旁，是晋朝的忠臣；比干遭逢凶残暴虐的商纣，因忠心进谏而被开胸剖心，可谓商朝的贤士。二人都是为国尽忠而死，坟墓都在陛下路过的地方。然而陛下前往鏶洛路经殷墟时，凭吊祭祀了比干，到了洛陽之后，却忘记去凭吊嵇绍，当是嵇绍希望陛下的恩典而托梦给陛下。”孝文帝说：“朕有什么德行，居然能在冥冥之中感动贤达人士。然而就追礼先贤、弘扬忠义而言，比干、嵇绍都是古时的忠臣义士，而朕却厚待比干，忽略了嵇绍，心中确实有愧。既然做了此梦，大概正如你所言。”于是寻访嵇绍的坟墓，派人前去凭吊祭祀。
萧鸾杀死萧昭业自立为帝后，南齐雍州刺史曹虎请求投降北魏，献出襄陽城。孝文帝调兵遣将，准备亲率大军南征。可豫州又上报朝廷，说曹虎接洽投降的使节没有再来。孝文帝召集元澄及咸陽王元禧、彭城王元勰、司徒冯诞、司空穆亮、镇南将军李冲等人，商讨对策。孝文帝说：“得到边境州县的报告，说襄陽请求归降，所以朕准备进军江、沔，大造声势，加以接应。如今又报告说，这件事没了下文，大军是行还是留，究竟如何？”元禧等人有的主张应该继续进军，有的认为应停止进军。孝文帝说：“众说纷纭，意见不一，朕不知听谁的才好。若要详尽阐述行、留的利弊得失，使之言之成理令人信服，应分为正、反两方，互相辩驳。任城王元澄与镇南将军李冲陈述停止进军的理由，朕论述继续进军的道理，诸位坐在一边判断得失，看谁说得更为有理，就听谁的。”于是孝文帝说：“二位贤臣，请陈述停止进军的理由吧。”李冲说道：“臣等认为，迁都时间过短，人心思安，而内应曹虎的情况不明，不宜轻举妄动。”孝文帝说：“襄陽归顺之事，不知是虚是实。朕也知道刚刚经过迁徙的民众，不宜服劳役。如果曹虎投降是真，自应乘民心归附之机，远可进逼会稽，近可平定长江以北地区。如果曹虎投降是假，朕也可巡视江淮地区，访问民间疾苦，使那里的百姓感受到君主的关怀，怎能因其投降是假而吝惜这一举动？如果曹虎归顺是真，我们停止不前不加接应安抚，无异会断绝归顺之心，破坏朕统一天下的大计。”元澄说：“如果归降是真，应送来人质。而曹虎的使节一去之后，竟毫无音讯，可见其中有诈。如今自平城南迁的民众，人人怀念故土，他们扶老携幼，刚刚来到洛陽，栖身无所，家无担石之粮，让他们怀着怨苦出征，含着眼泪战斗，恐怕不是获胜之师。如今国家刚刚安定，春耕即将开始，正是百姓兴建家园之日，农夫努力耕作之时，应减轻民众的战争负担，以造福百姓。而且声援曹虎的部队已经出发，并非未作接应。如果曹虎投降是真，出动的兵力足以应付，等到平定了襄、沔，再圣驾亲征不迟。如今凭空出动大军，若劳而无功，恐怕会损害陛下的天威，徒增敌国的声势，愿陛下上观盘庚迁都初期的艰难，下吟诗人《由庚》的至真咏叹，安定新都，造福亿万黎民百姓。”而司空穆亮认为应继续进军，其余的公卿大臣也都一致赞同。元澄对穆亮说：“你在外面看见大军整装待发，面有忧色，平时的言论也是不希望大军南征的，为什么当着陛下的面却说出这样的话。当面一套，背后一套，有欺君谄媚之嫌，不是讨论问题应有的态度，更有失国家大臣的风范，此行若有不测，你们这些谄媚之臣难逃其责。”李冲说：“任城王可谓忠于社稷，他的话应引起陛下的深思。臣等在朝外都对南征深怀忧虑，因为地位贵贱的不同，看法也会不同，愿陛下作出最后的裁决。”孝文帝说：“任城王刚才因为公卿大臣都附合朕的主张，而发了这一番议论。不赞成朕的，并不一定都忠心耿耿而能洞察国家的安危。小忠是大忠的敌人，不就是像这样吗？”元澄说：“臣愚昧昏庸，不识大理，所说的一切虽属小忠，但确实是竭忠尽智，不知道究竟什么才算是大忠？”孝文帝说：“任城王大概是想担当宰辅的重任，因而才要使自己具有大忠吧。”元澄说：“臣并非宰辅之才，且缺乏宰辅所需的智慧，若能滥竽充数身居宰辅之位，定会在其位而谋其政，鞠躬尽瘁。”孝文帝大笑。元澄又对穆亮说：“昔日汲黯曾在汉武帝面前指责公孙吃小米饭、盖粗布被子，是欺世盗名。于是公孙自愿位居汲黯之下，以示谦让。汉武帝因此感叹汲黯忠诚至极、公孙是忠厚长者，二人都被称为贤士。您既然具有与昔人同样的品德，但愿能想起汉武帝称赞公孙为长者的话。”孝文帝笑着说：“任城王想要自比为汲黯吧。话说的虽然在理，但还不知道得失究竟如何，怎么便先向司空谢起罪来了呢。”于是孝文帝便亲率大军南征。
按五等爵位分封土地之后，元澄食邑一千户。元澄跟随孝文帝南征大军抵达悬瓠后，因病重返回洛陽。孝文帝在汝氵贲为他饯行，君臣二人赋诗而别。孝文帝返回京城洛陽后，在清徽堂召见王公大臣。孝文帝说：“清徽堂建成以来，还未与王公大臣在此举行过宴会。东阁的廊庑厅堂已基本修建完毕，所以今天朕与大家要无高不登、无小不入。”于是来到流化渠。孝文帝说：“这弯曲的水流也有它的含义，取天道曲成、万物无滞之意。”随后到了洗烦池。孝文帝说：“此池中也有好鱼。”元澄道：“正所谓‘鱼在藻，有颁其首’。”孝文帝说：“不如说‘王在灵沼，于禼鱼跃’。”然后来到观德殿。孝文帝说：“由射箭可以观察人的品德，所以命名为‘观德殿’。”随后又去了凝闲堂。孝文帝说：“名字要有意义，这是取夫子闲居之义。不可以放纵奢侈而忘掉节俭，处身安乐而忘掉危险，所以在此堂后面兴建了茅茨堂。”又对李冲说：“东面的叫步元庑，西面的叫游凯庑。这凝闲堂中虽无唐尧那样的君主，你们却无愧于元、凯。”李冲答道：“臣等既然遇到了唐尧那样的贤明君主，自然不敢推辞与元、凯相提并论的荣誉。”孝文帝说：“夕陽西下，天色已晚，皇族宗室自然留宴宫中，卿等就要离去，为什么沉默不语，一言不发？”于是命黄门侍郎崔光、郭祚，通直郎邢峦、崔休等人赋诗言志。掌灯之后，公卿大臣告退。李冲再三拜别，并祝孝文帝万寿无疆。孝文帝说：“你刚刚因掌灯已拜辞过了，又祝朕万寿无疆，朕用《南山》这首诗来回报吧。”孝文帝说：“宫中掌灯，外臣告退，这是庶姓的礼节；在宫中设夜宴款待皇亲国戚，则是尽宗族之义。你们回去吧，朕要与诸王宗室乘兴夜饮。”
元澄又曾随孝文帝巡视邺城，回到洛陽后，因随同出巡有功，增加食邑五百户。后因公事被免去官职，不久兼任吏部尚书。恒州刺史穆泰在恒州谋反，推举朔州刺史、陽平王元颐为盟主。元颐向朝廷密报穆泰的罪状。孝文帝在凝闲堂召见元澄，说道：“刚刚得到陽平王的报告，穆泰图谋不轨，引诱皇族宗室叛乱。如果真是这样，迁都刚刚不久，北方人留恋故土，南北之间动荡纷扰，朕在洛陽就不能立足了。处理此事非你莫属，可为朕带病去北方一趟。如果他们力量薄弱，就直接加以擒获、铲除；如果他们势力强大，可代朕征发并、肆二州的兵马加以剿灭。朕虽然知道你正在患病，既然是国家大事，当然义不容辞。”元澄说：“穆泰等人愚昧昏愦，只因留恋故土，才有此一举，并无深谋远虑。臣虽怯懦无能，但足以对付他们，虽身患疾病，岂敢推辞！定当尽心竭力，死而后已，愿陛下不要忧虑。”孝文帝笑道：“任城王肯去一趟，朕还有什么可忧虑的呢？”于是赐给元澄节杖、铜制虎符、竹使符及皇帝的仪仗与御前侍卫，任命元澄为行恒州事。元澄行至雁门，雁门太守深夜报告说，穆泰已率领部众向西投奔陽平王去了，恒州城下只剩下一堆弓箭甲仗。元澄闻讯，便命令加速前进。当时，右丞孟斌说：“事态的发展难以预料，应遵照陛下的吩咐，征调并、肆二州的军队，然后再徐徐推进。”元澄说：“穆泰既然举兵谋反，理应据守坚城，而如今却去迎接陽平王，从他的所做所为推测，似乎力量薄弱。穆泰既然没有公开举兵抗拒朝廷，我们无故征调大军，并不合适。只要迅速前往镇压，民心自会安定。”于是加紧赶路，以出其不意，攻其无备。又派治书侍御史李焕先行一步，一到平城便擒获了穆泰，人心安定、平静。追查穆泰的党羽，将其一网打尽，钜鹿公陆睿、安乐侯元隆等一百多人全都被捕入狱。元澄将整个过程上奏朝廷，孝文帝看了奏章极为高兴，召集公卿以下文武百官，让他们传阅元澄的奏章，说道：“朕的任城王堪称是国家栋梁之臣，看他审理罪案，就是皋陶断案，又岂能超过他。”转过头对咸陽王等人说：“你们如果身当此任，就办不成这个样子。”不久，孝文帝抵达平城，慰劳元澄说：“任城王此行，深孚重望。”元澄答道：“陛下威镇四方，罪犯无处逃避，臣何功之有。”孝文帝审问罪犯时，并无一人喊冤，世人莫不赞叹元澄的明察秋毫。孝文帝回过头，对左右的人说：“昔日孔子说：‘审理诉讼，我与别人差不多，一定要使诉讼完全消灭才好。’然而圣人审理案件，大概非平常人可比，完全消灭诉讼，朕今天算是看到了。”于是任命元澄为尚书。
孝文帝再次率军南征，命元澄留守洛陽，兼任右仆射。元澄上书朝廷，请求捐献封地内一年的租税布帛作为军用物资，孝文帝下诏表示只接受一半。孝文帝抵达邺城时，正逢高车、树者部落叛乱，孝文帝准备亲率大军征讨，元澄上书劝阻御驾亲征，刚好江陽王元继平息了叛乱，孝文帝才未成行。孝文帝返回洛陽后，召见公卿大臣，说道：“治国之本，礼教是首位的。朕离开京城以来，礼教的推行是否天天都有进展？”元澄答道：“臣认为是天天都有进展。”孝文帝说：“朕昨日入城，看见车上的妇女仍头戴帽子、身穿小袄，出现这样的情况，尚书为什么不纠察？”元澄说：“穿鲜卑服装的还是少于不穿的。”孝文帝说：“真是奇怪！任城王想让全部的人都穿上鲜卑服装吗？一句话可以让国家灭亡，难道说的不就是这种情况吗？可命史官将这件事载入史册。”又说道：“君主不能期望天降辅佐之臣，都是选拔人才加以任用。朕在选拔人才时犯了错误，任用了一批具有妇人之见的人担当重任，应当重新选拔才行。任城王任职，是建立天下的法度呢，还是仅仅应付各种事务而已？”元澄答道：“臣只是处理事务而已。”孝文帝说：“如果是这样，要一位令、史级的官员就足够了，还要你任城王干什么呢？”又说道：“我派舍人宣读的诏书的内容，为什么要让小人知道？”元澄答道：“世上虽有能干的官吏，但与文告相比，他们的作用还差得远。”孝文帝说：“远了则不知道，知道了就不算远。既然知道了诏书的内容，其中的道理也就明白了。”于是留守洛陽的大臣们全都摘下官帽，向孝文帝谢罪。不久，任命元澄为尚书右仆射。
南齐皇帝萧宝卷派太尉陈显达率军入侵汉水以北地区。当时孝文帝患病在身，在清徽堂召见元澄，下诏说：“陈显达侵扰边境，沔陽地区动荡不安，朕不亲率大军征讨，就无法消除贼患。朕患病已达一年之久，气力疲惫困乏，如有意外，一切由任城王作主。这段时间任城王必须跟随朕的左右。”元澄痛哭流涕地说：“臣定当竭尽全力辅佐陛下，以死相报。”于是随从孝文帝南征。孝文帝驾崩，元澄受命辅政。
世宗宣武帝元恪即位之初，有个南齐投降北魏的名叫严叔懋的人，控告尚书令王肃派孔思达暗中勾结萧宝卷，陰谋叛乱，说萧宝卷派俞公喜送信给王肃，俞公喜南归时，王肃还让他带回南齐豫州刺史裴叔业的坐骑作为信物。元澄对此深信不疑，于是上书指控王肃谋反，立刻下令囚禁王肃。结果咸陽王、北海王联名上书，弹劾元澄擅自囚禁宰辅首相，于是元澄被免除官职，归家闲居。
不久，任命元澄为平西将军、梁州刺史。元澄以母亲年迈为由加以拒绝。朝廷又任命元澄为安东将军、相州刺史，又被元澄坚决拒绝。朝廷只好改授他为安西将军、雍州刺史。不久，调他前去主持秋季军事演习。任命他为都督淮南诸军事、镇南大将军、开府、扬州刺史。到任之后，修整孙叔敖的坟墓，捣毁了蒋子文的庙。频频上书请求南征，宣武帝元恪却不允许。元澄又以母亲年迈为由，请求解除扬州刺史的职务，然而辞呈却被压下，并未上报皇帝。不久，加授元澄为散骑常侍。
南梁将领张嚣之攻陷北魏夷陵戍，元澄派辅国将军成兴率步骑兵前往征讨，大破南梁军，收复夷陵戍，张嚣之逃走。元澄又派长风守将奇道显攻打南梁的陰山戍，攻破陰山戍，斩南梁守将龙骧将军、都亭侯梅兴祖。随机又攻克白槁戍，斩守将宁朔将军、关内侯吴道爽。元澄上表说：“梁武帝萧衍频频封锁东关，想让巢湖之水泛滥。巢湖方圆四百余里，东关与长江相距不过数十步，若敌人的陰谋得逞，湖水泛滥，则淮南地区的边防堡垒定会像春秋时的晋陽城一样，成为水岛泽国。而且吴楚地区水路交通便利，南梁军一面水灌一面舰攻，则淮南地区将不再属于我国所有。寿陽距长江五百余里，现已人心惶惶，深恐遭受水淹之灾。若顺从民众的心愿，趁敌人毫无防备时发动进攻，预先命令各州调集兵马，在初秋时大规模集结军队，那么南方的河流就会成为我们饮马的渡口，霍岭定会成为我们流连忘返的游玩之所，行事贵在随机应变，各项工作须及早进行。即使达不到统一天下的目的，至少可以确保长江以西地区的安全。若犹豫拖延，不及时征讨，敌人布好防线，决堤放水，平原地区的军民定会成为水中的鱼鳖。”于是宣武帝下诏，征发冀、定、瀛、相、并、济六州的二万士兵、一千五百匹战马，命令他们于中秋节齐集淮南地区，连同寿陽已有的三万兵马，全部归元澄指挥。
先前，朝中的舆论已有南征之意，于是朝廷任命萧宝夤为东扬州刺史，据守东城，任命陈伯之为江州刺史，驻守陽石，命元澄总督二镇，节制萧、陈二人。至此，北魏开始出兵南征。因为东关是水路要冲，大岘地势险要，若从东关决堤放水，则陽石、合肥首当其冲；若不占领大岘，则历陽可据险固守以待援军；淮陵是陆路枢纽，九山是水路枢纽，都应抢先控制。于是元澄派统军傅竖眼、王神念等进击大岘、东关、九山、淮陵，分别部署诸将，日夜兼程抢占各自的目标，而自己则统率大军主力相继进发。王神念连克关要、颍川二城，斩南梁军守将费尼。而南梁的宁朔将军韦惠、龙骧将军李伯由仍固守大岘。元澄派统军党法宗、傅竖眼等率军攻克大岘，进围白塔、牵城，数日之间，守军溃散。南梁清溪戍守军也望风而逃。南梁徐州刺史司马明素率三千人马驰援九山；徐州长史潘伯邻增援淮陵；宁朔将军王燮据险固守焦城。党法宗进克焦城，攻破淮陵，生擒司马明素，斩杀潘伯邻。南梁济陰太守王厚强、庐江太守裴邃随即弃城溃逃。宣武帝下诏给元澄说：“将军文德内显，武功外扬，奋力施展鸿图伟略，将荡平长江流域、吴越地区。大旗刚刚舒展，敌人便闻风丧胆，劲旅刚刚奔驰，便席卷了东关。料想江湖风平浪静，只在旦夕之间。所送被俘的敌军将领一事，大家都已知晓。”
先前，元澄率大军出征之后，南梁将领姜庆真向寿陽发动袭击，攻占寿陽外城，齐王萧宝夤将其击退。长史韦缵因此被撤职，元澄因领兵在外，没有受到牵连，于是率军进攻钟离。宣武帝元恪下诏说：“钟离如果绝粮，三月份以前本可攻克。若到了四月，淮河水位上涨，舟船畅通无阻，就应对此妥善考虑了。先前取得的胜利，全靠将军指挥有方，然而怎能战无不胜？如果因为水势盛大难以进取，也可施行万全之策，不要贪利冒进以致一事无成，追悔莫及。”南梁冠军将军张惠绍、游击将军殷暹、骁骑将军赵景悦、龙骧将军张景仁等率兵五千，向钟离运送粮食。元澄派统军王足、刘思祖等截击张惠绍等人所率援军，大破南梁军，生擒张惠绍、殷暹、张景仁及其屯骑校尉史文渊等二十七位将领。随后遇到大雨，淮河河水暴涨，元澄率领大军撤回寿春。撤退时狼狈不堪，损失兵力四千余人。元澄频频上书，请求解除扬州刺史的职务，宣武帝没有答应。有关部门指责元澄指挥不当，致使大军在撤退途中迷路，于是将元澄免去开府，连降三级。其时，梁武帝萧衍遣送被俘的北魏将士，请求换回张惠绍。元澄奏请朝廷加以拒绝，宣武帝元恪下诏，将此事交由八座会议商议。尚书令、广陽王元嘉等人奏请应予放还，于是宣武帝下诏允许张惠绍南返。后来，张惠绍果然再次率军侵犯北魏边疆。
朝廷改授元澄为镇北大将军、定州刺史。当初，定州民间有许多苛捐杂税，百姓苦不堪言，先后几任刺史均无法免除，元澄则多方减免百姓的捐税负担，得到定州民众的衷心拥戴。同时元澄又公布升降赏罚的施行办法；上表朝廷减少官府园林的占地面积，将所得土地分给无地的贫苦农民；禁止用布绢制作衣服以外的其他物品。元澄的母亲孟太妃逝世，在守丧期间元澄哀伤过度，损害了身体健康，世人对此十分赞叹。服丧期满后，元澄被任命为太子太保。
当时，高肇把持朝政，猜忌贤能的皇族成员。元澄被高肇诬陷中伤，常恐性命难保，于是整日都喝得昏天黑地，以显示自己的颓废消沉、委靡不振。所作所为惊世骇俗，当时都称他为狂人。
世宗宣武帝元恪深夜驾崩，事情发生得十分仓猝，高肇拥兵在外，肃宗孝明帝元诩年龄幼小，朝野深为不安。元澄当时虽遭排斥而没有参预国家机要，但在朝中仍是众望所归，领军于忠、侍中崔光等人保举元澄为尚书令，于是众人心悦诚服。又加封元澄为散骑常侍、骠骑大将军，不久升任司空，加授侍中，随即又下诏命他兼任尚书令。
元澄献上《皇诰宗制》与《训诂》各一卷，想让皇太后御览，起到劝诫的作用。又上奏利国救民所应倡导、推行的十条措施：第一条，度、量、衡的计算标准，官府与民间有所不同，应该统一；第二条，应兴办学校，以宣传升降赏罚的规章制度；第三条，应恢复、延续已遭覆灭命运的名门望族的香火，各自推荐遇到的贤才；第四条，五种捐税之外，不应再向百姓加收任何一种捐税；百姓服劳役，不要超过三日；第五条，直接管理百姓的地方官吏，都必须按照政绩加以升降任免，以示赏罚分明；第六条，因躲避赋税徭役而逃亡的百姓，若年代已久，且非从事技术性工作的，听任他们在逃亡地居住；第七条，边防士兵开小差逃跑的，或确实被俘失踪的，必须一律加以细致地核实；三长及士兵的近亲若隐瞒实情，隐藏不报，则征调其代服兵役；若无隐瞒，则不加追究；第八条，世代从事工商业的民户，还要向他们征收田租与以纺织品为内容的户调，他们已不堪负担，如今请求免征他们的租、调，使他们能够专心从事自己的行业；第九条，三长维护治安不得使辖区范围交叉重叠，户口数目不满的辖区，就近与相邻的辖区合并；第十条，羽林、虎贲等禁卫军在边境爆发战争时，可暂时调他们参加战斗，其禁卫任务应派蕃兵代理。胡太后将元澄的建议交付文武百官讨论，有的通过了，有的则被否决。
当时，四位中郎将所统辖的军队人数很少，不足以担负拱卫京师的重任，元澄奏请皇上，以东中郎将统管荥陽郡，南中郎将统管鲁陽郡，西中郎将统管恒农郡，北中郎将统管河内郡，选拔二、三品官中的亲信贤能者充任，为应付非常事件的发生，配备强大的兵力，如此一来，可达到深根固本、强干弱枝的目的。胡太后最初准备接受元澄的建议，后来有人提出异议，便未实行。元澄再次上奏道：“根本应该巩固强大，要防微杜渐，所以虽有文治，仍不能忘掉武功。况且如今南梁仍很强大，北方的贼人又频频集结，未来的事态很难预料，如同以往的变化一样。若有危急事变突然暴发，震动威胁京畿地区，四周府郡的老弱残兵怎能加以防范？太平之世，虽可以保持安定的局面，但从长远的利益来看，恐非良策。依臣愚见，郎将统领军队兼管民政，简员务实，正在于此。请求依照先前的建议，增加兵员，扩大中郎将的职权范围，将领的权位加重，则尽忠报国之心随之加深，军队与郡府携手相依，则表里融为一体，朝廷无四顾之忧，奸贼绝觊觎之心。”但元澄的建议最终未被采纳。又因流民初到边镇，衣食无着，很多人因此死亡，元澄奏请朝廷发给流民及其妻子儿女一年的口粮，朝廷采纳了这一建议。不久，因身患疾病，元澄请求解除职务，没有获准。
梁武帝萧衍在浮山修筑大坝截断淮河水流，想以淮河之水灌入寿春。于是北魏朝廷任命元澄为使持节、大将军、大都督、南讨诸军事，统帅十万大军，将由彭宋出击淮河大坝，不久淮河大坝自行崩溃，大军也就没有出动。
元澄因为对北方边镇将领的选拔任用日益轻率，深恐贼寇侵犯边境，使皇室祖墓受到威胁，上书请求对边镇将领的选拔慎重对待，建议加强边防战备，胡太后下诏不予采纳。后来贼寇入侵，直抵旧都平城，边镇将领大多任非其人，辖区内又暴发叛乱，使皇家陵墓受到侵犯与损害，一切正如元澄所忧虑的那样。元澄上奏说，京城的府邸寺庙还未修筑完毕，如今战争刚刚结束，不宜兴师动众，请向该服劳役的人及司州郡县犯有该责罚十杖以上一百鞭以下的罪犯收取绢一匹、砖二百块，作为交换，用以资助建设工程。胡太后下诏批准。太傅、清河王元怿上书议论此事，于是便没有实行。
元澄任职期间秉公行事，无所回避。曾上书陈述垦田授受的八条规章制度，很有见地，既有利于国家又大大方便了百姓。以前尚书省的档案文件在各部门需要时便可随意借出，当公车署以审理冤案事关重大为由，奏请调阅档案原件时，元澄上奏说，尚书省是国家政治中枢，应特别谨慎，所以公车署所奏之事，虽经最高机构批准，但因涉及到国家机密，应谨防泄露，怎能古代制度所重视的，今天反而轻率从事；内部戒备森严，对外却不加限制？只能摘录档案中的有关内容，将其交付公车署。胡太后下诏批准。西域口厌哒、波斯等国各派使臣入朝觐见，送给元澄骏马一匹。元澄请求将骏马交给太仆，充为国有。胡太后下诏说：“任城王清正廉洁的品德，超过了楚相孙叔敖，可将此马交付国家马厩，以成全君子宏大的美德。”
后来，元澄升任司徒公，侍中、尚书令的职务不变。胡太后大兴土木，在京城兴建永宁、太上公等佛寺，花费了大量人力物力，并命各州修造五层高的佛塔。又多次举办大型斋会，施舍给佛寺的财物动辄数以万计。因大肆兴修寺庙，广做佛事，使得百姓疲惫不堪，金银的兑换价格急剧上涨，连文武百官的俸禄也被削减，国家的财力大为损耗；修寺庙做佛事，连同对左右侍从的赏赐，每日的开支达数千两白银。因此元澄上书加以劝谏，胡太后虽终未接受他的劝阻，却常用嘉许的态度婉言拒绝，以示优待。政事无论大小，都与元澄一道商议决定。元澄也尽心辅佐，遇有不利于民众的事情，必定直言劝谏，虽然不被采纳，却仍一如既往，朝廷内外都对他十分敬畏。
孝明帝神龟二年(519)，元澄逝世，终年五十三岁。朝廷拿出布一千二百匹、钱六十万、蜡四百斤，作为丧礼的费用，并赐给东园制作的葬器、棺材及朝服一套、御衣一件；由大鸿胪监办丧事，下诏命文武百官参加丧礼；赠授元澄为假黄钺、使持节、都督中外诸军事、太傅，兼太尉公；给予元澄以特殊的礼遇，依照西晋大司马、齐王司马攸的先例，赐给九锡；谥号称“文宣王”。元澄下葬时，仪式极为盛大隆重，胡太后亲自送葬到郊外，停下车子痛哭流涕，其悲哀的程度深深打动了左右的侍从。文武百官参加葬礼的达一千余人，莫不唏嘘不已。当时认为元澄葬礼之隆重，达到了做臣子的极点。元澄的第四个儿子元彝继承了爵位。