朱元璋采纳了他的建议。李文忠掌管大都督府兼领国子监事。
因病去世
洪武十六年(1383年)冬季，李文忠得病。太祖亲临探视，并命淮安侯华中负责医治。1384年(洪武十七年)农历三月，李文忠去世，终年四十六岁。太祖怀疑华中下毒，便降低华中的爵位，将其家属逐至建昌卫，其他医生及妻子儿女都被斩首。太祖亲自写文致祭，追封李文忠为岐阳王，谥号武靖。配享太庙，肖像挂在功臣庙，位列第三。
人物评价
张廷玉:文忠器量沉宏，人莫测其际。其临阵踔厉历风发，遇大敌益壮。颇好学问，常师事金华范祖干、胡翰，通晓经义，为诗歌雄骏可观。
谷应泰:至若徐中山之忠志无疵，李岐阳之好学饬行，汤信公之听命唯谨，沐西平之居贵不骄，并皆攀龙鳞而有功，履虎尾而不咥。呜呼!与毕、散之徒争烈矣。
《剑桥中国明代史》:洪武帝的外甥李文忠，是皇帝至亲中唯一有点学识的人，但是从很早时候起，他对他舅父的忠诚就有些不肯定。可是，皇帝还是把他安放在极重要的位置上。他是个极有才干的行政官员。根据史籍所载，他擅长搞钱粮和刑名事务，也善于搞大项目公共在明朝政权初步稳定之后，在李文忠主管大都督府的次年(1380年)，朱元璋以擅权枉法和谋叛的罪名，处死了丞相胡惟庸，并有意扩大案情，以致牵连被系的多达万人。这时，朝廷内外人人自危，朝不保夕。
李文忠对明太祖的这一些做法深感不安。他自己曾先后上过两次奏章，一是劝谏明太祖不要发兵征讨日本;二是劝谏明太祖在处理重要政治事务时不要过于依赖宦官，以及因在处死官员和处理其他事项方面批评明太祖。
这两份奏章，都被束之高阁，不予理睬，但并没有惹恼朱元璋。李文忠眼见朱元璋屠杀功臣，担心失掉民心，国丧元气，危及政权。他决心冒死第三次苦谏。
这天晚上，李文忠一夜未能安睡，他写好奏章，坐等上朝。临行之前，嘱托夫人，训教好孩子，成人之后为国出力，才与夫人泣别。李文忠上朝，递上奏章。明太祖打开奏章，当他读到:“叛臣贼子，定诛无宥，惟锻炼攀诬，滥杀无辜，人不自安，伤国元气。“犹未看完，面色早变。只见他突然离座，一边指着文忠怒责道:“小子胆大包天，一派胡言乱语。朕斩绝叛逆，与你何干?“一边掷下奏章。文忠毫无惧色，朗声答道:“陛下杀尽功臣宿将，一旦边疆有警，或内有叛乱，那时谁来为国效力疆场?愿陛下三
…。。