蔡茂，字子礼，是河内怀县（今河南省焦作市）人。汉哀帝、平帝年间因儒学闻名，被征为博士（官职名，掌管书籍文典、通晓史事）。在皇帝策问如何应对灾害时，蔡茂冷静详细陈述，以优异成绩被提升为议郎,又迁为侍中。后来遇到王莽上位摄政,蔡茂不肯在王莽朝中任职，便告病辞官。

恰逢天下动乱，蔡茂平时与窦融关系很好，便到他那里去避难。窦融想让他担任张掖太守，蔡茂坚决推辞。窦融每次给他粮饷，蔡茂仅取家人所需而已，不多拿。后来蔡茂与窦融一起被征召，又被拜为议郎，再迁为广汉太守，政绩斐然。

说起蔡茂为什么又做起官职，这里有一个小故事。当初蔡茂在广汉（位于四川）时，梦见自己坐在大殿中，见殿内梁上有一株三个穗的禾苗。蔡茂去取它，得到正中的一个穗，接着又丢失了。他拿这个梦去询问主簿（掌管文书的佐吏）郭贺，郭贺说:“大殿，是宫府的象征；屋梁上有禾苗，这代表着人臣中的上等俸禄。取得正中的一个穗，象征着取得中台之位。从字来看，‘禾’字与‘失’字合起来是‘秩’字，虽说有‘失’字，还是表示俸禄官职的意思。皇帝有未尽职的地方，你可以去弥补它。”一个月后，蔡茂得到任命。

当时，阴氏宾客在郡中多次触犯官禁，蔡茂每次审理纠纷案件,无所回避。洛阳令董宣揭发湖阳公主（武帝的长姐）的家仆杀了人,光武帝开始时发怒逮捕了董宣,后来又赦免了他。

蔡茂喜爱董宣的刚正, 认为皇亲国戚犯了法，应该同样办罪。为了让朝廷禁止、制约贵戚的非法行为,蔡茂就上书说：“我听说，要想一个国家振兴教化，必须要让朝中大臣敢于进谏；要想使一个国家富强、人民安宁，最重要是治理恶人恶事。陛下圣德隆兴，再承大命，即位以来，四海安定。所以您也应当早起迟睡，该休息时也不休息，注意保重身体。”以大局为重，又顾及皇帝个人，甚得帝心。

蔡茂接着劝诫道：“然而近来贵戚帝室之家，多次倚仗皇恩帝势，触犯吏禁，杀了人不处死刑，伤了人不查处。我恐怕这样下去会导致法律失效，刑戮废更是没有效果。最近湖阳公主的奴仆在西市杀了人，却与公主共乘马车，出入宫廷，多日逍遥法外，受害者含冤。洛阳令董宣，按正道办案，他不顾得罪权贵，触犯湖阳公主而讨除奸凶。陛下不先澄清审明案件，就把他召来想对他施行杖刑。当董宣开始受您怒责时,朝中大臣都非常关心此事。到后来董宣承蒙您宽宏大量，被赦免。天下的人都在拭目观看，关注这这件事。现在外戚骄逸，宾客放纵，应命令有关部门审理他们的奸罪,让执法公平的官吏永远发挥作用，以平远近不服之情。”字字珠玑，发人警醒，光武帝欣然采纳了此议。

建武二十年(公元44)，蔡茂代替戴涉担任司徒（官职名，掌管国家的土地和人民的教化）,在职任上清明俭朴，毫不懈怠。

建武二十三年(公元47)，蔡茂在职位上去世，时年七十二岁。光武帝赐其东园梓棺（皇室、显宦死后用的棺材）,丧金赠赐丰厚。