1948年随着孟良崮战役上整编74军全军覆没，国民党部队在山东以至于整个华东地区的形势已经岌岌可危不容乐观。为了挽救危局，胡琏向陈诚建议摒弃前嫌，重新启用关麟征。然而等到陈诚找到关麟征时关麟征却对陈诚说道：如果你是让我接替汤恩伯，那我做不到，请你另寻高明吧！
势同水火
关麟征和陈诚都是蒋介石相当信任的国民党重要将领。陈诚作为蒋介石早期发掘出来的国民党将领，虽然他不是直接从黄埔毕业的学生，但是却由于她成为了干女儿谭祥的丈夫也成为了蒋介石的干女婿，所以从组建第十一师开始平步青云步步高升。而关麟征则是蒋介石的黄埔嫡系将领，在台儿庄大战等一系列重要战役中立下赫赫战功，获得蒋介石信赖。然而这两位可以说是蒋介石左膀右臂的重要将领，却长期关系势同水火。
关麟征和陈诚之间的矛盾最早要追溯到第十一师时期。当时陈诚被任命为第十一师的副师长，但是他却不甘居于师长曹福顺的身后，一心想要成为第十一师师长，于是他秘密授意罗卓英等人向国民党军队高层举报第十一师师长曹福顺的贪污行为。罗卓英在第十一师中笼络其他黄埔嫡系将领一起写献言书，然而等他找到关麟征时关麟征却予以拒绝。关说道：“陈矮个子这种手段为人不齿，而且他也没好到哪里去！”从此关麟征和陈成二人便结下梁子，而且仇恨越积越深。
在抗日战争时期，关麟征已经成为集团军总司令，而他麾下的第54军军长黄维则是陈诚土木系中的重要将领。黄维维人脾气耿直，他对当时国民党部队中的贪污现象深恶痛绝，尤其是国民党军方高层竟然在士兵的粮饷方面竟然还动手脚，他对此尤为不忿。于是黄维冲动之下向当时的军政部长何应钦处寄了一袋基层士兵掺杂了砂石的军粮，这种打脸的行为让何应钦勃然大怒，下令进行彻查。
作为黄维顶头上司的关麟征因为黄维是陈诚土木系核心将领，于是也积极配合何应钦的调查，从中挖出了黄维部队中也存在吃空饷的行为（实际上在抗日战争时期，国民党部队的军饷开支颇为吃紧，相当多的部队都采取吃空饷的方式来进行贴补）。在关麟征的帮助下，何应钦当即下令免除了黄维54军军长的职务，而关麟征其人也和土木系结怨越来越深。
罗卓英
这活我不干
1945年抗日战争胜利之后，关麟征一开始接到调令，让他去东北当保安司令部长官。然而还没等他到任调令就发生变化，改让他去云南成为警备司令。关于这件事关麟征一直认为这背后人命变化的原因一定是陈诚在背后使坏。
关麟征在云南当了一段时间警备司令之后干脆又去了中央军校当校长，狠抓军事教育，从此基本上也远离了前方战场。
随着解放战争的进行，国民党在战场上节节败退，面对当时国民党已经颓势明显的局面，陈诚土木系下核心将领胡琏向陈诚建议重新启用关麟征。而陈诚此时也是负面消息缠身，他也想着显出自己不计前嫌的高风亮节，于是向蒋介石提出建议，让关麟征去代替汤恩伯。
对于关麟征来说，在抗日战争时他就是管辖六个军的集团军总司令，如今让他去山东接替汤恩伯，所管辖的部队大大减少，这无疑折损自己的面子。更何况此时的山东已经是一个烂摊子，自己去了绝对没有好果子吃，就连汤恩伯本人都给关麟征写信，让他三思而后行，不要来山东。
于是当关麟征见到陈诚的时候直接对他说道：让我去山东接替汤恩伯，这事我做不到，你另请高明吧！此话一出气的陈诚当即回道：这事你要推辞，去找校长自己去说吧！
陈诚事后也把关麟征的态度报告给了蒋介石，蒋介石于是亲自找到关麟征谈话。关麟征见到蒋介石之后直接开口说道，让他去华东也可以，但是他要求拿到华东地区的所有军政大权，要不然他绝不同意前往就任。关麟征的条件让蒋介石勃然大怒，而让他接替汤恩伯的事情也不了了之了。
后来在1949年，蒋介石还曾经想让关麟征去接替胡宗南主持西北，但是关麟征同样提出了，如果去就要拿到西北地区所有军政大权的要求，而蒋介石同样不肯同意。其实对于蒋介石来说，他只说到了最后时刻也不同意关的要求，就是担心关麟征趁机拥兵自重成为割据一方的诸侯，甚至是背叛自己投敌。后来随着国民党部队的节节败退，这位曾经在抗日战争期间创下辉煌战绩的将领最终远走香港。
后来蒋介石在台湾还曾经想要重用关麟征，然而关麟征在香港却表示只要蒋公还重用陈诚，他绝不去做什么事情。
