蔡谟，字道明，陈留考城人也。世为著姓。曾祖睦，魏尚书。祖德，乐平太守。父克，少好学，博涉书记，为邦族所敬。性公亮守正，行不合己，虽富贵不交也。高平刘整恃才纵诞，服饰诡异，无所拘忌。尝行造人，遇克在坐，整终席惭不自安。克时为处士，而见惮如此。后为成都王颖大将军记室督。颖为丞相，擢为东曹掾。克素有格量，及居选官，苟进之徒，望风畏惮。初，克未仕时，河内山简尝与琅邪王衍书曰：“蔡子尼今之正人。”衍以书示众曰：“山子以一字拔人，然未易可称。”后衍闻克在选官，曰：“山子正人之言，验于今矣。”陈留时为大郡，号称多士，琅邪王澄行经其界，太守吕豫遣吏迎之。澄人境问吏曰：“此郡人士为谁？”吏曰：“有蔡子尼、江应元。”是时郡人多居大位者，澄以其姓名问曰：“甲乙等，非君郡人邪？”吏曰：“是也。”曰：“然则何以但称此二人？”吏曰：“向谓君侯问人，不谓问位。”澄笑而止。到郡，以吏言谓豫曰：“旧名此郡有风俗，果然小吏亦知如此。”克以朝政日弊，遂绝不仕。东嬴公腾为车骑将军，镇河北，以克为从事中郎，知必不就，以军期致之。克不得已，至数十日，腾为汲桑所攻，城陷，克见害。
谟弱冠察孝廉，州辟从事，举秀才，东海王越召为掾，皆不就。避乱渡江。时明帝为东中郎将，引为参军。元帝拜丞相，复辟为掾，转参军，后为中书侍郎，历义兴太守、大将军王敦从事中郎、司徒左长史，迁侍中。
苏峻构逆，吴国内史庾冰出奔会稽，乃以谟为吴国内史。谟既至，与张闿、顾众、顾飏等共起义兵，迎冰还郡。峻平，复为侍中，迁五兵尚书，领琅邪王师。谟上疏让曰：“八坐之任，非贤莫居，前后所用，资名有常。孔愉、诸葛恢并以清节令才，少著名望。昔愉为御史中丞，臣尚为司徒长史；恢为会稽太守，臣为尚书郎；恢尹丹阳，臣守小郡。名辈不同，阶级殊悬。今猥以轻鄙，超伦逾等，上乱圣朝贯鱼之序，下违群士准平之论。岂惟微臣其亡之诫，实招圣政惟尘之累。且左长史一超而侍帷幄，再登而厕纳言，中兴已来，上德之举所未尝有。臣何人斯，而猥当之！是以叩心自忖，三省愚身，与其苟进以秽清涂，宁受违命狷固之罪。”疏奏，不许。转掌吏部。以平苏峻勋，赐爵济阳男，又让，不许。
冬蒸，谟领祠部，主者忘设明帝位，与太常张泉俱免，白衣领职。顷之，迁太常，领秘书监，以疾不堪亲职，上疏自解，不听。成帝临轩，遣使拜太傅、太尉、司空。会将作乐，宿县于殿庭，门下奏，非祭祀燕飨则无设乐之制。事下太常。谟议临轩遣使宜有金石之乐，遂从之。临轩作乐，自此始也。彭城王绂上言，乐贤堂有先帝手画佛象，经历寇难，而此堂犹存，宜敕作颂。帝下其议。谟曰：“佛者，夷狄之俗，非经典之制。先帝量同天地，多才多艺，聊因临时而画此象，至于雅好佛道，所未承闻也。盗贼奔突，王都隳败，而此堂块然独存，斯诚神灵保祚之征，然未是大晋盛德之形容，歌颂之所先也。人臣睹物兴义，私作赋颂可也。今欲发王命，敕史官，上称先帝好佛之志，下为夷狄作一象之颂，于义有疑焉。”于是遂寝。
时征西将军庾亮以石勒新死，欲移镇石城，为灭贼之渐。事下公卿。谟议曰：
时有否泰，道有屈伸，暴逆之寇虽终灭亡，然当其强盛，皆屈而避之。是以高祖受黜于巴汉，忍辱于平城也。若争强于鸿门，则亡不终日。故萧何曰“百战百败，不死何待”也。原始要终，归于大济而已。岂与当亡之寇争迟速之间哉！夫惟鸿门之不争，故垓下莫能与之争。文王身圮于羑里，故道泰于牧野；句践见屈于会稽，故威申于强吴。今日之事，亦由此矣。贼假息之命垂尽，而豺狼之力尚强；宜抗威以待时。
或曰：“抗威待时，时已可矣。”愚以为时之可否在贼之强弱，贼之强弱在季龙之能否。季龙之能否，可得而言矣。自勒初起，则季龙为爪牙，百战百胜，遂定中国，境土所据，同于魏世。及勒死之日，将相内外欲诛季龙。季龙独起于众异之中，杀嗣主，诛宠臣。内难既定，千里远出，一攻而拔金墉，再战而斩石生，禽彭彪，杀石聪，灭郭权，还据根本，内外并定，四方镇守，不失尺土。详察此事，岂能乎，将不能也？假令不能者为之，其将济乎，将不济也？贼前襄阳而不能拔，诚有之矣。不信百战之效，而执一攻之验，弃多从少，于理安乎？譬若射者，百发而一不中，可谓之拙乎？且不拔襄阳者，非季龙身也。桓平北，守边之将耳。贼前攻之，争疆埸耳，得之为善，不得则止，非其所急也。今征西之往，则异于是。何者？重镇也，名贤也，中国之人所闻而归心也。今而西度，实有席卷河南之势，贼所大惧，岂与桓宣同哉！季龙必率其精兵，身来距争。若欲与战，战何如石生？若欲城守，守何如金墉？若欲阻沔，沔何如大江？苏峻何如季龙？凡此数者，宜群校之。
愚谓石生猛将，关中精兵，征西之虎不能胜也。金墉险固，刘曜十万所不能拔，今征西之守不能胜也。又是时兖州、洛阳、关中皆举兵击季龙。今此三处反为其用，方之于前，倍半之觉也。若石生不能敌其半，而征西欲当其倍，愚所疑也。苏峻之强，不及季龙，沔水之险，不及大江。大江不能御苏峻，而以沔水御季龙，又所疑也。昔祖士稚在谯，佃于城北，虑贼来攻，因以为资，故豫安军屯，以御其外。谷将熟，贼果至，丁夫战于外，老弱获于内，多持炬火，急则烧谷而走。如此数年，竟不得其利。是时贼唯据沔北，方之于今，四分之一耳。士稚不能捍其一，而征西欲御其四，又所疑也。或云：“贼若多来，则必无粮。”然致粮之难，莫过崤函。而季龙昔涉此险，深入敌国，平关中而后还。今至襄阳，路既无险，又行其国内，自相供给，方之于前，难易百倍。前已经至难，而谓今不能济其易，又所疑也。
然此所论，但说征西既至之后耳，尚未论道路之虑也。自沔以西，水急岸高，鱼贯溯流，首尾百里。若贼无宋襄之义，及我未阵而击之，将如之何？今王士与贼，水陆异势，便习不同。寇若送死，虽开江延敌，以一当千，犹吞之有余，宜诱而致之，以保万全。弃江远进，以我所短击彼所长，惧非庙胜之算。
朝议同之，故亮不果移镇。
初，皇后每年拜陵，劳费甚多，谟建议曰：“古者皇后庙见而已，不拜陵也。”由是遂止。
初，太尉郗鉴疾笃，出谟为太尉军司，加侍中。鉴卒，即拜谟为征北将军、都督徐兖青三州扬州之晋陵豫州之沛郡诸军事、领徐州刺史、假节。时左卫将军陈光上疏请伐胡，诏令攻寿阳，谟上疏曰：
今寿阳城小而固。自帮阳至琅邪，城壁相望，其间远者裁百余里，一城见攻，众城必救。且王师在路五十余日，刘仕一军早已入淮，又遣数部北取坚壁，大军未至，声息久闻。而贼之邮驿，一日千里，河北之骑足以来赴，非惟邻城相救而已。夫以白起、韩信、项籍之勇，犹发梁焚舟，背水而阵。今欲停船水渚，引兵造城，前对坚敌，顾临归路，此兵法之所诫也。若进攻未拔，胡骑卒至，惧桓子不知所为，而舟中之指可掬。今征军五千，皆王都精锐之众，又光为左卫，远近闻之，名为殿中之军，宜令所向有征无战。而顿之坚城之下，胜之不武，不胜为笑。今以国之上驷击寇之下邑，得之则利薄而不足损敌，失之则害重而足以益寇，惧非策之长者。臣愚以为闻寇而致讨，贼退而振旅，于事无失。不胜管见，谨冒陈闻。
季龙于青州造船数百，掠缘海诸县，所在杀戮，朝廷以为忧。谟遣龙骧将军徐玄等守中洲，并设募，若得贼大白船者，赏布千匹，小船百匹。是时谟所统七千余人，所戍东至土山，西至江乘，镇守八所，城垒凡十一处，烽火楼望三十余处，随宜防备，甚有算略。先是，郗鉴上部下有勋劳者凡一百八十人，帝并酬其功，未卒而鉴薨，断不复与。谟上疏以为先已许鉴，今不宜断。且鉴所上者皆积年勋效，百战之余，亦不可不报。诏听之。
康帝即位，征拜左光禄大夫、开府仪同三司，领司徒。代殷浩为扬州刺史。又录尚书事，领司徒如故。初，谟冲让不辟僚佐，诏屡敦逼之，始取掾属。
石季龙死，中国大乱。时朝野咸谓当太平复旧，谟独谓不然，语所亲曰：“胡灭，诚大庆也，然将贻王室之忧。”或曰：“何哉？”谟曰：“夫能顺天而奉时，济六合于草昧，若非上哲，必由英豪。度德量力，非时贤所及。必将经营分表，疲人以逞志。才不副意，略不称心，财单力竭，智勇俱屈，此韩庐、东郭所以双毙也。”
迁侍中、司徒。上疏让曰：“伏自惟省，昔阶谬恩，蒙忝非据，尸素累积而光宠更崇，谤讟弥兴而荣进复加，上亏圣朝栋隆之举，下增微臣覆餗之衅，惶惧战灼，寄颜无所。乞垂天鉴，回恩改谬，以允群望。”皇太后诏报不许。谟犹固让，谓所亲曰：“我若为司徒，将为后代所哂，义不敢拜也。”皇太后遣使喻意，自四年冬至五年末，诏书屡下，谟固守所执。六年，复上疏，以疾病乞骸骨，上左光禄大夫、领司徒印绶。章表十余上。穆帝临轩，遣侍中纪璩、黄门郎丁纂征谟。谟陈疾笃，使主簿谢攸对曰：“臣谟不幸有公族穆子之疾，天威不违颜咫尺，不敢奉诏，寝伏待罪。”自旦至申，使者十余反，而谟不至。时帝年八岁，甚倦，问左右曰：“所召人何以至今不来？临轩何时当竟？”君臣俱疲弊。皇太后诏：“必不来者，宜罢朝。”中军将军殷浩奏免吏部尚书江虨官。简文时为会稽王，命曹曰：“蔡公傲违上命，无人臣之礼。若人主卑屈于上，大义不行于下，亦不知复所以为政矣。”于是公卿奏曰：“司徒谟顷以常疾，久逋王命，皇帝临轩，百僚齐立，俯偻之恭，有望于谟，若志存止退，自宜致辞阙庭，安有人君卑劳终日而人臣曾无一酬之礼！悖慢傲上，罪同不臣。臣等参议，宜明国宪，请送廷尉，以正刑书。”谟惧，率子弟素服诣阙稽颡，躬到廷尉待罪。皇太后诏曰：“谟先帝师傅，服事累世。且归罪有司，内讼思愆。若遂致之于理，情所未忍。可依旧制免为庶人。”
谟既被废，杜门不出，终日讲诵，教授子弟。数年，皇太后诏曰：“前司徒谟以道素著称，轨行成名，故历事先朝，致位台辅，以往年之失，用致黜责。自尔已来，阖门思愆，诚合大臣罪己之义。以谟为光禄大夫、开府仪同三司。”于是遣谒者仆射孟洪就加册命。谟上疏陈谢曰：“臣以顽薄，皆忝殊宠，尸素累纪，加违慢诏命，当肆市朝。幸蒙宽宥，不悟天施复加光饰，非臣陨越所能上报。臣寝疾未损，不任诣阙。不胜仰感圣恩，谨遣拜章。”遂以疾笃，不复朝见。诏赐几杖，门施行马。十二年，卒，时年七十六。赗赠之礼，一依太尉陆玩故事。诏赠侍中、司空，谥曰文穆。
谟博学，于礼仪宗庙制度多所议定。文笔论议，有集行于世。总应劭以来注班固《汉书》者，为之集解。谟初渡江，见彭蜞，大喜曰：“蟹有八足，加以二螯。”令烹之。既食，吐下委顿，方知非蟹。后诣谢尚而说之。尚曰：“卿读《尔雅》不熟，几为《劝学》死。”谟性方雅。丞相王导作女伎，施设床席。谟先在坐，不悦而去，导亦不止之。性尤笃慎，每事必为过防。故时人云：“蔡公过浮航，脱带腰舟。”长子邵，永嘉太守。少子系，有才学文义，位至抚军长史。