在福建延平府南平县儒学担任教谕一职，是海瑞仕途的起点，而他在这一时期获得的“笔架博士”的外号正好彰显了他为人为官的性格特征，他后来的仕途发展和受挫大致上都是因为这种不事权贵不懂阿谀的性格。
海瑞虽然性格狂狷、执拗，但是担任南平县儒学教谕四年的功绩有目共睹，因此在嘉靖三十七年（1558年）春天被擢升为浙江严州府淳安县知县，在广泛调研后，他认为地方官员“剥民以媚人，多科而厚费”，而这直接导致了老百姓“惫困不能安赋役，朴直不能胜奸强”。针对此情此景，海瑞不畏强权进行了一系列的改革，即便是触及朝廷权贵也无所畏惧，因此成为历史上有名的“拗县令”。
海瑞于嘉靖二十八年（1549年，时年35岁）在琼州参加乡试，写有《治黎策》分析海南黎患不绝的原因，并提出开通十字路等主张，因此得中举人。嘉靖二十九年（1550年）、三十二年（1553年）连续两次进京参加会试，但均告失败，决定就此放弃科举考试。而在这一年，海瑞接受吏部指派前往福建南平县担任教谕，从此开始了宦海沉浮。
恪守师道拒绝逢迎的“海笔架”
嘉靖三十三年闰三月，海瑞被派往福建延平府南平县儒学担任教谕一职。延平府是当时福建所属十邑之一，而南平又是其中的大县，县儒学历史悠久，设施相对齐全。县儒学是一县最高教育机关，教谕是其中的最高长官，但是职务是很低的，《明史·职官志》说：“县，教谕一人，训导二人。”可以说，教谕一职在较为完备的封建官制史上连“九品芝麻官”都算不上。但是这对于知识分子出身的海瑞来说，却是一个颇具光荣感和使命感的职务。他在后来撰写的《兴革条例》中如此说：“教官掌一邑之教，门下皆凡民之秀，所事事比俗吏簿书词讼不同。师道立，善人必多矣。于以推之，功效不浅。”这是对教谕职务的认知，也是自己使命感的体现。
明朝中后期以来，社会风气日益腐败，县学风纪遭到严重破坏，生员中学业优秀者寥寥无几。作为县儒学的负责人，海瑞上任伊始，依据朱熹在白鹿洞书院讲学时所定的五条学规以及朱氏弟子辅汉卿总结的“会萃六事”，并结合自己在琼州读书时的切身体会以及南平县儒学的实际情况，制订颁行《教约》十六条。《教约》对生员在修身、处事、待人接物甚至作息、礼仪等方面都做了明确的规定，告诫他们要博学、审问、慎思、明辨、笃行，在整饬学风、提高生员道德修养和学识水平方面起到了应有的作用。
在海瑞看来，接受教育的重要前提是德育，因此《教约》十六条中有相当多内容涉及到德育的问题。例如第九条就明确说：“诸生接见上人，会典诸书明有礼节。今后于明伦堂见官，不许行跪，学前迎接亦然。本学在郭外接官，不许离关门出郊野。宪司官至本县，一见后不许再同有司行三日揖。有犯于各衙门，罪人也，亦勿得免冠叩头，奴颜哀免，自贬士气。”作为知识分子，应当有相应的骨气，绝不能奴颜婢膝，自贬士气；作为学校，更是要维护师道尊严。海瑞是这样说，也是以身作则的。南平儒学的成绩引起上级的关注，御史前来检查工作，海瑞带着两名训导前往迎见。在古代官场，下级迎接上级行跪拜之礼是常见的。面对上级，两名训导跪地相迎，而海瑞却拒绝逢迎，只站在两人中间行抱拳之礼。这三个人两低一高，活脱脱一个“山”字，俨然一个笔架，让御史大为恼火，训斥海瑞不懂为官礼节，并且讥讽为“安所得山字笔架来”。但是，面对训斥，海瑞不但不认错，反而不紧不慢地说：“此堂，师长教士地，不当屈。”（《明史》）意思是说学堂是教书育人的圣地，不应当屈身施礼。海瑞因为这一惊世骇俗的一站，从此被人冠之以“笔架博士”的外号。
被人称为“笔架博士”，这让海瑞非常生气，再加上在御史面前受的窝囊气，他对官场非常失望，于是提出辞职。这时，担任福建按察司提学副使的朱衡邀请海瑞到正谊书院修书。在朱衡的多次劝解下，海瑞不久又返回南平担任教谕。时间长了，海瑞习惯了“笔架博士”的称号，甚至一度将“笔架”与自号“刚峰”相提并论。
在南平县儒学担任教谕一职，是海瑞仕途的起点，而他在这一时期获得的“笔架博士”的外号正好彰显他为人为官的性格特征，他后来的仕途发展和受挫大致都是因为这种不事权贵不懂阿谀的性格。海瑞之所以名震天下、青史留名，也是因为执拗的性格推动他锄奸除恶、铁面无私的缘故。
厉行节俭不畏权势的“拗县令”
清末民初的海南地方名人王国宪在《海忠介公年谱》中如此说：“公在南平四年余，以礼为教。其讲道论德以及经义治事，一一实事求是，不为俗学所染。是教职中最难得者。至此，巡按监司交章荐之。”海瑞虽然性格狂狷、执拗，但是担任南平县儒学教谕四年的功绩有目共睹，再加上“海笔架”不事权贵刚直不阿的性格也得到部分人的赏识，因此在嘉靖三十七年（1558年）春天被擢升为浙江严州府淳安县知县。
淳安县山多地少，且土地贫瘠，山上只出产茶叶、楠竹、杉树、柏树等，百姓生活非常困窘。海瑞到任后，“初阅册籍，民之逃亡者过半”，在广泛调研后，他认为地方官员“剥民以媚人，多科而厚费”，而这直接导致了老百姓“惫困不能安赋役，朴直不能胜奸强”。针对此情此景，海瑞不畏强权进行了一系列的改革，即便是触及朝廷权贵也无所畏惧，因此成为历史上有名的“拗县令”。
海瑞淳安任上，正是严嵩专权时期，上下腐败成风，满朝贿赂公行，淳安也毫无例外，但是他却特立独行，并且说出了掷地有声的话：“尽天下而不为上官之赂也，岂尽不迁；又尽天下而为上官之赂也，岂尽不黜！安可自以其身甘沟壑也！”意思是说，全天下的官员都不给上级行贿，难道都不能升官？全天下的官员都给上级行贿，难道不能降职罢免？怎么可以拿这个来自欺欺人自甘堕落呢？在污浊遍地的时代，海瑞以自己高尚的人格真正做到了出污泥而不染。
淳安县虽然穷困，但是处于新安江下游，是水陆交通枢纽，各路官僚经常往来经过，地方上不得不出面进行接待，如经过一个普通官员，就要耗银二三十两，经过巡按御史等监察官员要耗银一二百两，巡抚出巡则要用银三四百两。同时，他们坐船需要地方指派船夫，走陆路需要地方支付马匹夫役，这给当地百姓带来深重灾难。海瑞在淳安倡导节俭之风，对上级官员的接待一律从简，还率先垂范，让夫人亲自下厨，在自家院内空地种菜，派仆人外出打柴，以节省日用开支，甚至在为老母亲祝寿时也只买两斤肉，为时任江浙等七省总督的胡宗宪所笑话。
上级“打秋风”
不畏强权一律抵制
对于上级前来“打秋风”的所作所为，海瑞不畏强权一律抵制，最终使得不少官员惧其清名绕道而走。历史上流传两则典故，很能够说明海瑞的性格和为官秉性。有一次，胡宗宪的儿子带着随从到淳安县耀武扬威，因为接待不周而大发脾气，甚至把驿吏捆起来吊在树上。海瑞得报带人赶来，当场将胡公子痛斥一顿，没收了他随身携带的大量银两充入官库，还给胡宗宪写了一封信说，胡总督曾颁令各地方不许超标招待过往官差，现在这个人排场这么大，又索要招待，所以肯定不是总督的儿子，而是一个冒牌货在败坏总督名声，建议严厉处罚。胡宗宪接到海瑞的书信，恨得咬牙，但是自知理屈，只好忍下这股恶气，还不得不说海瑞办得好。如果说这段故事还存在夸张和渲染的成分，那么海瑞对付鄢懋卿的经过则确凿无疑。
鄢懋卿是首辅严嵩的亲信，当时以左副都御史的身份总理两浙、两淮等地盐政。总理盐政是一个肥缺，再加上仗着严嵩的权势，鄢懋卿四处接受贿赂，敲诈勒索，带着小老婆威风八面，穷奢极欲，却标榜“素性简朴，不喜承迎”，给各地带来很大的负担。海瑞得知鄢懋卿要来淳安，便用以子之矛攻子之盾的办法，给他写了一封信，让其无话可说，自觉无趣地绕道而行。这就是著名的《禀鄢都院揭帖》。在这封信中，海瑞说，您说您一向喜欢简朴，不喜欢迎逢，我相信您是为国为民真诚的流露，绝非空话。但是我最近听到各地传闻，说大人您所到之处都置办酒席，每席耗银三四百两，都是山珍海味，供应非常奢华，甚至连便壶都是银制的。淳安县是一个穷县，如果按照传闻来办，是无法负担的，而且这也有违大人的形象。但是我们又怕这个传闻是真的，如果不按照高规格接待，又会得罪大人。我们左右为难，不知道怎么办才好，所以在此请大人明示。海瑞的书信义正言辞却又极尽委婉，让鄢懋卿气得发抖却又无法可说，只好绕开淳安去别的地方了。
海瑞因为自己的执拗和不畏强权而得罪了胡宗宪、鄢懋卿等权贵，但是他们忌惮海瑞的清廉名声，也不敢贸然对其进行革职处理。他们授意巡盐御史袁淳想办法弹劾陷害海瑞，海瑞马上写了一份《交印文》，理直气壮，认为自己坚持圣贤之道，奉皇帝旨意办事，问心无愧，让其无话可说，悻悻然作罢。不久有人推荐提拔海瑞担任嘉兴通判（知府的副职），鄢懋卿和袁淳从中作梗，以手续不合适为由向朝廷告发，最终于嘉靖四十一年（1562年）年底将其平调为江西兴国知县。在兴国，海瑞继续为民办实事，平反了不少冤假错案，受到百姓的欢迎，被称为“海青天”。嘉靖四十三年（1564年）冬，在吏部尚书陆光祖的推荐下，海瑞到京城担任户部云南司主事。京城任职，为海瑞发挥政治才干，张扬道德人品提供了更为广阔的平台。