凉茂，字伯方，兖州山阳郡昌邑人。少已好学，论议时就经常引经典作凭据，曹操后来辟他为司空掾，举高第，补侍御史。此时，泰山郡多盗贼出没，凉茂担位泰山太守后，一个月之间就有一千多家人带着小孩前来依附。后来凉茂又转任乐浪太守。当时据守辽东的公孙度擅自扣留凉茂，不让他上任，但凉茂始终不肯向公孙度屈服。公孙度有一次向将领和凉茂商议曹操北征时谁能抵御曹军，将领们皆说可以，但凉茂则说曹操定国安邦，而公孙度若反抗则是反抗东汉，必会遭到诛杀。将领们听后都大惊，公孙度亦赞同凉茂的话。凉茂后来又迁任魏郡太守，甘陵相，所治的州郡都有政绩。曹丕任五官中郎将时，凉茂被选为长史，后来迁任左军师。魏国建立后不久迁任尚书仆射，后来又转任中尉奉常。曹丕被立为魏国世子后，凉茂任太子太傅，受到尊敬，不久在任内逝世。
凉茂他的同郡老乡实属不少，如“八俊”之中的刘表、檀敷、张俭，军中长者李典，‘建安七子’之首的王粲，擅长经学的王弼，还有曹伟、单固这谋逆二人组。满宠与凉茂关系更近些，两人不仅生在同郡，还处在同县，不过从史料上看他们没有太多交集。
凉茂年轻好学，与人讨论时喜欢引经据典，被曹操征辟后成为司空府掾吏，凉茂在司空府任职期间表现出色，或者说他的成绩足够优秀，这才有资格出补侍御史，依汉制侍御史名额一共15人，要么是从牧守、议郎、郎中转任，要么是从公府掾吏里找成绩好的出任，主要职能是监察百官群卿，检举不法者。接下来凉茂出任泰山太守，像臧霸、孙观、昌豨等人都起家于泰山，其中昌豨多次降魏后叛乱，最后体会了一下围而后降者不赦，被好友于禁亲手斩杀。
泰山多盗贼，但是凉茂到任后的治理卓有成效，不到一个月的时间，百姓们都愿意拖家带口迁徙过来，可见凉茂的口碑极佳。凉茂此后迁任乐浪太守，乐浪远在辽东，从泰山到乐浪郡称得上千里迢迢，不仅路途遥远，还要面对周边虎视眈眈的公孙度。公孙度此时在辽东已经呼风唤雨，他又十分欣赏凉茂，想要强行留下凉茂为自己效力，一如当年袁术扣留马日磾那样，但凉茂始终不曾屈服，这个扣留的举动可能也耽误了凉茂的仕途。
公孙度还有过大胆的想法，想要趁着曹操出征偷袭邺城，公孙度麾下诸将自然交口称赞，唯独凉茂怼了公孙度，告诫他曹操才是大义所在，师出无名强行攻打曹操，会成为罪人的，不要轻易与代表朝廷的曹操为敌，公孙度这才放弃了这个想法，不过这段记载有些矛盾，曹操拿下邺城的那一年，公孙度就逝世了，可能这里的公孙度应该换为公孙康。
兴许是公孙度已经逝世，接下来凉茂被调去担任魏郡太守、甘陵相，凉茂作为地方官也是得心应手，都做出了一定成绩。曹丕作为五官中郎将时，凉茂就被选为他的长史，这应该是曹丕作为副丞相征辟的掾属，曹操在子嗣教育方面也是用心良苦，像曹丕身边就有凉茂、邴原这样德行出众的名士辅佐。
如果要谈论曹魏的军师，荀攸为中军师，钟繇为前军师，凉茂为左军师，毛玠为右军师，这几个人都是绕不开的，不过凉茂、毛玠看起来都没有统兵经验。魏国初建，凉茂担任尚书仆射，迁任中尉、奉常，也就是原来的执金吾、太常，只是凉茂进入中枢的时间有些晚了，凉茂曾作为曹丕的太子太傅，邢颙是太子少傅，两人都曾是曹丕的老师，如果能坚持到曹丕称帝，他们必然会受到重用。