李矩，字世回，平阳人也。童龀时，与群儿聚戏，便为其率，计画指授，有成人之量。及长，为吏，送故县令于长安，征西将军梁王肜以为牙门。伐氐齐万年有殊功，封东明亭侯。还为本郡督护。太守宋胄欲以所亲吴畿代之，矩谢病去。畿恐矩复还，阴使人刺矩，会有人救之，故得免。属刘元海攻平阳，百姓奔走，矩素为乡人所爱，乃推为坞主，东屯荥阳，后移新郑。
矩勇毅多权略，志在立功，东海王越以为汝阴太守。永嘉初，使矩与汝南太守袁孚率众修洛阳千金堨，以利运漕。及洛阳不守，太尉荀藩奔阳城，卫将军华薈奔成皋。时大饥，贼帅侯都等每略人而食之，藩、薈部曲多为所啖。矩讨都等灭之，乃营护藩、薈，各为立屋宇，输谷以给之。及藩承制，建行台，假矩荥阳太守。矩招怀离散，远近多附之。
石勒亲率大众袭矩，矩遣老弱入山，令所在散牛马，因设伏以待之。贼争取牛马。伏发，齐呼，声动山谷，遂大破之，斩获甚众，勒乃退。藩表元帝，加矩冠军将军，轺车幢盖，进封阳武县侯，领河东、平阳太守。时饥馑相仍，又多疫疠，矩垂心抚恤，百姓赖焉。会长安群盗东下，所在多虏掠，矩遣部将击破之，尽得贼所略妇女千余人。诸将以非矩所部。欲遂留之。矩曰：“俱是国家臣妾，焉有此彼此！”乃一时遣之。
时刘琨所假河内太守郭默为刘元海所逼，乞归于矩，矩将使其甥郭诵迎致之，而不敢进。会刘琨遣参军张肇，率鲜卑范胜等五百馀骑往长安，属默被围，道路不通，将还依邵续，行至矩营，矩谓肇曰：“默是刘公所授，公家之事，知无不为。”屠各旧畏鲜卑，遂邀肇为声援，肇许之。贼望见鲜卑，不战而走。诵潜遣轻舟济河，使勇士夜袭怀城，掩贼留营，又大破之。默遂率其属归于矩。后刘聪遣从弟畅步骑三万讨矩，屯于韩王故垒，相去七里，遣使招矩。时畅卒至，矩未暇为备，遣使奉牛酒诈降于畅，潜匿精勇，见其老弱。畅不以为虞，大飨渠帅，人皆醉饱。矩谋夜袭之，兵士以贼众，皆有惧色。矩令郭诵祷郑子产祠曰：“君昔相郑，恶鸟不鸣。凶胡臭羯，何得过庭！”使巫扬言：“东里有教，当遣神兵相助。”将士闻之，皆踊跃争进。乃使诵及督选杨璋等选勇敢千人，夜掩畅营，获铠马甚多，斩首数千级，畅仅以身免。
先是，郭默闻矩被攻，遣弟芝率众援之。既而闻破畅，芝复驰来赴矩。矩乃与芝马五百匹，分军为三道，夜追贼，复大获而旋。
先是，聪使其将赵固镇洛阳，长史周振与固不协，密陈固罪。矩之破畅也，帐中得聪书，敕畅平矩讫，过洛阳，收固斩之，便以振代固。矩送以示固，固即斩振父子，遂率骑一千来降，矩还令守洛。后数月，聪遣其太子粲率刘雅生等步骑十万屯孟津北岸，分遣雅生攻赵固于洛。固奔阳城山，遣弟告急，矩遣郭诵屯洛口以救之。诵使将张皮简精卒千人夜渡河。粲候者告有兵至，粲恃其众，不以为虞。既而诵等奄至，十道俱攻，粲众惊扰，一时奔溃，杀伤太半，因据其营，获其器械军资不可胜数。及旦，粲见皮等人少，更与雅生悉余众攻之，苦战二十余日不能下。矩进救之，使壮士三千泛舟迎皮。贼临河列阵，作长钩以钩船，连战数日不得渡。矩夜遣部将格增潜济入皮垒，与皮选精骑千余，而杀所获牛马，焚烧器械，夜穴围而出，奔武牢。聪追之，不及而退。聪因愤恚，发病而死。帝嘉其功，除矩都督河南三郡军事、安西将军、荥阳太守，封修武县侯。
及刘粲嗣位，昏虐日甚，其将靳准乃起兵杀粲，并其宗族，发聪冢，斩其尸，遣使归矩，称“刘元海屠各小丑，因大晋事故之际，作乱幽并，矫称天命，至令二帝幽没虏庭。辄率众扶侍梓宫，因请上闻”。矩驰表于帝，帝遣太常韩胤等奉迎梓宫，未至而准已为石勒、刘曜所没。矩以众少不足立功，每慷慨愤叹。及帝践阼，以为都督司州诸军事、司州刺史，改封平阳县侯，将军如故。时弘农太守尹安、振威将军宋始等四军并屯洛阳，各相疑阻，莫有固志。矩、默各遣千骑至洛以镇之。安等乃同谋告石勒，勒遣石生率骑五千至洛阳，矩、默军皆退还。俄而四将复背勒，遣使乞迎，默又遣步卒五百人入洛。石生以四将相谋，不能自安，乃虏宋始一军，渡河而南。百姓相率归矩，于是洛中遂空。矩乃表郭诵为扬武将军、阳翟令，阻水筑垒，且耕且守，为灭贼之计。属赵固死，石生遣骑袭诵，诵多计略，贼至，辄设伏破之，虏掠无所得。生怒，又自率四千余骑暴掠诸县，因攻诵垒，接战须臾，退军堮坂。诵率劲勇五百追及生于磐脂故亭，又大破之。矩以诵功多，表加赤幢曲盖，封吉阳亭侯。
郭默欲侵祖约，矩禁之不可，遂为约所破。石勒遣其养子匆袭默，默惧后患未已，将降于刘曜，遣参军郑雄诣矩谋之，矩距而不许。后勒遣其将石良率精兵五千袭矩，矩逆击不利。郭诵弟元复为贼所执，贼遣元以书说矩曰：“去年东平曹嶷，西宾猗卢，矩如牛角，何不归命？”矩以示诵，诵曰：“昔王陵母在贼，犹不改意，弟当何论！”勒复遗诵麈尾马鞭，以示殷勤，诵不答。勒将石生屯洛阳，大掠河南，矩、默大饥，默因复说矩降曜。矩既为石良所破遂，从默计，遣使于曜。曜遣从弟岳军于河阴，欲与矩谋攻石生。勒遣将围岳，岳闭门不敢出。默后为石匆所败，自密南奔建康。矩闻之大怒，遣其将郭诵等赍书与默，又敕诵曰：“汝识唇亡之谈不？迎接郭默，皆由于卿，临难逃走，其必留之。”诵追及襄城，默自知负矩，弃妻子而遁。诵拥其余众而归，矩待其妻子如初。刘岳以外援不至，降于石季龙。
矩所统将士有阴欲归勒者，矩知之而不能讨，乃率众南走，将归朝廷，众皆道亡，惟郭诵及参军郭方，功曹张景，主簿苟远，将军骞韬、江霸、梁志、司马尚、季弘、李瑰、段秀等百余人弃家送矩。至于鲁阳县，矩坠马卒，葬襄阳之岘山。