第一颗鸡蛋：走日本路线。阎锡山一直与日本保持着比较友好的关系。九一八事变后，日本人诱阎投降未果，而阎想利用日本维持自己在山西的统治这一美梦也破灭了。
阎锡山自１９０９年从日本陆军士官学校毕业以来，与日本一直保持着比较密切的关系。１９３０年中原大战失败后，他在日本保护下避居大连，并被日视为上宾，备受礼遇。回到山西后，他之所以能够顶住蒋介石的压力，重掌山西军政大权，很大一个原因就是由于他与日本的关系。
１９３０年５月１９日，阎锡山登上美国时代周刊封面
日本关东军参谋长板垣征四郎曾对阎锡山派去赴日考察的邱仰浚等说：“只要阎锡山永远和日本亲善友好，日本今后对他仍然尽力支持，给予应有的帮助。”正是由于阎锡山与日本的这些关系，他在全国政界被公认为亲日派。他自己也大言不惭地说：“在中国会走日本路线的，只有我阎锡山一个人。”然而，随着日本对中国的步步紧逼，这种情况起了变化。
从１９３５年始，日本紧锣密鼓地策划华北“自治运动”，妄图把包括山西、绥远的华北地区从中国分离出去，再制造一个满洲国的翻版。与此同时，日本垄断资本也加紧对华北的经济侵略，大肆倾销其廉价商品，掠夺原料、燃料及市场。而阎锡山在１９３２年东山再起后，为了表示自己不再与蒋介石争天下之意，便全力以赴埋头发展自己的官僚资本。在短短几年时间内便初步建起了一个比较完整的工业体系。这些新兴工业急需有广大的市场来支持，然而它却迎头遇到了凶猛的日货倾销，使阎锡山发展官僚资本，建立新兴工业，扭转山西不景气经济的美梦化为泡影。
气急败坏的阎锡山再也顾不得日阎亲善，公开指责日本转嫁经济危机，损害中国新兴工业的侵略行径，要求日本对中国社会和经济的贫困负责。１９３５年，日本出兵侵入与山西唇齿相依的察哈尔，次年又直接策划山西的近邻内蒙古“独立”，开始叩响阎锡山一直视为禁脔的绥远的大门，这对一直想当华北王的阎锡山形成了严重的威胁，日阎一向比较友好的关系开始紧张。
尤使阎锡山不能容忍的是日本对山西本身的觊觎，日本这种咄咄逼人之势使他深感以前日本给他吃的“定心丸”已经失效，他已成为日本直接打击的对象，他在“三颗鸡蛋”上的跳舞无法跳得平衡。为了保住自己的财产，维持自己的地位，阎锡山开始“守土抗战”，以“守”来维持自己存在，既然要守，就得反抗日本的侵略，就得抗战。
１９３６年１０月底，驻绥日本特务机关长田中隆吉指挥伪蒙军再次进犯绥远，占领大庙子和百灵庙。阎锡山决心“保卫家园”，决定把自己最好的部队置于傅作义的指挥之下，派两个最能干的将军赵承绶和王靖国去协助傅，进行绥远抗战。为了支援前线士兵，阎锡山将其父遗产８７万元以其母亲的名义捐给绥远。在他的带动下，晋军将领、山西人民纷纷捐款。
在阎锡山如此尽心的支持下，傅作义也不负重望，取得红格尔图战役、百灵庙战役的胜利，肃清绥远境内的日伪军，挫败了日本妄图建立伪“蒙古帝国”的阴谋。绥远抗战在整个中国激起了巨大的抗战热情，有影响的大公报称“百灵庙大捷是整个国家的一次凯旋”。北平、上海、广州等大城市纷纷派选代表团携带巨款来到绥远鼓励阎锡山继续战斗，阎锡山成为风云一时的抗日英雄，“守土抗战”成为山西抗战的一面旗帜。
七七事变后，抗战全面爆发。山西地势险要，素称“华北要塞”，日本要完成其军事上占领华北，非攻占山西不可。因此，日军在攻陷平津之后，就分三路会攻山西。大军压境，此时，正受胃病折磨的阎锡山也不得不抱病抗战，他在东起娘子关，沿太行山各要隘地区到百灵庙一线的防御阵地上进行军事部署，希望能把日军挡在雁门之外，保全自己的“领土”。但战事起后，情况就不如阎锡山想像的那样美妙，接连丢失南口、娘子关、忻口等战略要地，太原失去了屏障，也于１１月８日失陷。阎锡山不得不向晋南撤离，失去了盘踞２０多年的地方。
日军占领太原后，继续向晋南进军，在打通同蒲线后，便移兵津浦路徐州方面，山西局势遂趋于相对稳定。随着中国抗日战争进入战略相持阶段，日本改变了侵华策略：对蒋介石的国民党以政治诱降为主，军事打击为辅，集中力量进攻中共领导的抗日根据地。在这个气候影响下，国内一部分人在长期抗战的困难面前也看不到胜利的希望，开始妥协动摇。与此相应，驻晋日军也改变策略，提出“专打八路军，不打晋绥军”，还提议把掠夺的西北实业公司及其他工厂的财务还４９％给阎锡山，这对阎锡山无疑具有极大的诱惑力，阎日矛盾得到一定缓和。当然，老谋深算的阎锡山在不到不降日就不能生存之时，他还不愿做汪精卫第二，但他却开始对日本采取消极避战，保存实力的方针。
随着日本侵华战争的发展和国际形势的变化，日本与英美矛盾加剧，正在酝酿发动太平洋战争，急于从对华战争中抽身出来。为此，他们积极策划建立“反蒋、反共、反战”的政府，来作为让中国屈服的工具，而阎锡山是他们认为比较合适的人选，于是加紧对阎锡山进行诱降。阎锡山此时由于发动“十二月事变”，威信扫地，不仅失去同共｜｜产党的友好合作关系，而且自己部下又众叛亲离，更让他恐慌的是：胡宗南正奉蒋介石之命，咄咄相逼，积极准备渡河占领阎的晋西老窝。
日本方面决定利用阎目前困难及苦闷，诱降、收买、联络晋军，使阎投降剿共，以促使其他反蒋将领接踵效尤，最终导致重庆国民党蒋介石政权的崩溃。因此，日本陆军省、兴亚院、中国派遣军等各有关单位对拉拢阎锡山工作非常重视，称其为“对伯工作”，由华北方面军的第一军司令官松义雄中中将和参谋长花谷正少将负责。
１９４０年，日本先派汉奸白太冲偕日军特务小林高安来打探虚实，随后，又多次派人与阎锡山直接联系，阎锡山也开始从对日妥协中寻找出路。面对日本的“秋波”，阎锡山也不“忍”拒绝，投之以桃报之以李，将日本战俘二人及其族孙阎立仁秘密护送至太原，表示对日军的“合作诚意”。对此，日本兵务局长田中隆吉授意太原日军，“只要阎锡山肯投降，要什么就答应什么，暂时不必斤斤计较条件。”这样，双方开始进一步高级接触。１１月，阎锡山派赵承绶与日本“山西派遣军”参谋长楠山秀吉谈判。赵承绶向楠山陈述了阎锡山指示的“亚洲同盟，共同防共，外交一致，内政原理”的四项原则，并提出让日方先给阎装备３０个团，其所需兵员、武器、弹药、粮饷均由日方供给。在次年３月又一次谈判中，赵承绶又代表阎锡山提出要日本让出孝义县的要求。
日本为了让阎锡山投降，经过讨价还价，同意了阎锡山的部分要求，决定为山西补充３０万兵力，由伪南京政府补充大批枪支弹药及所需军费，日本让出孝义，于是阎锡山与日军签订了“汾阳协定”。“汾阳协定”签订后，阎日双方各自围绕自己的目的加紧活动。日本由于即将发动太平洋战争，急需阎早日投降；而阎锡山却指派赵承绶首先向日本要东西，双方都要求对方早日履行“汾阳协定”。为此，日军侵华头子冈村宁次特地从南京飞到太原亲自布置，但阎锡山深知公开投降是冒天下之大不韪，不肯轻易妥协。双方函电纷飞，但毫无成果。
此时，在重庆的蒋介石对日阎勾结早已侦知，派人对阎锡山严密监视，同时答应在兵源、物资上酌予补充。在晋系内部，许多将领并不赞同阎锡山对日勾结，就连阎锡山最亲信的赵戴文也表示：“我向来是一切都服从他，这件事不能再和他含糊了。”一般高级干部纷纷表示反对的意见，请赵戴文去向阎陈情。赵戴文于是去见阎锡山，对他说，如果阎投降，他一定跳黄河而死，决不再跟阎回太原。阎锡山眼见投降日本太不得人心，不得不暂时放慢对日勾结的步伐。然而，日本是不会轻易放过阎锡山的。此时太平洋战争已经爆发，日本在华兵力不够分配，更急于把阎控制在手中，替他们统治华北。
于是，日军软硬兼施，一面要求与阎锡山亲自谈判，并警告阎谈判“已到最后阶段，不允许采取某些观望态度”，一面在日军防地范围内对晋军进行扫荡，给阎一点颜色看看。阎锡山在日本的炮火压力下，惊惶失措，不得不同意与花谷正会谈。５月１１日，花谷正与阎锡山终于在安平村窑洞民宅内握手言欢。但在会谈中，花谷正逼迫阎锡山在拟好的阎脱离重庆政府的投降宣言上签字，阎锡山此时再也不能在投降和不降之间左右周旋，默然审阅宣言４０分钟之久，决定拒绝。狡猾的阎锡山估计到情况不妙，生怕自己被劫持，会谈休息时便不辞而别，谈判遂告破裂。恼羞成怒的日本侵略者看到阎锡山“有合作之心”却决无援助之意，只是“贪食物质之大欲”，于是正式宣布废弃“汾阳协定”。随后，对晋军进行严重的经济封锁和激烈的威压行动，击溃了阎锡山的第三十四军，并扬言要进攻吉县，还到西安、重庆散发安平村会见之传单，离间蒋阎关系。
阎锡山无奈，也被迫作了防御日军进攻的准备，还虚张声势地提出“晋西大保卫战”的口号，动员所有力量开赴前线。
１９４５年８月初，日本军国主义者预感到自己的末日即将来临，便想单独同中国媾和，以期缓和苏联红军和美军对它的打击。为此，日军“华北派遣军”参谋长高桥坦中将，由北平飞到太原转赴孝义县瑶圃村同阎锡山举行秘密会晤，日军代表在这里向阎锡山进行了最后一次诱降。高桥对阎说，日本即将宣布投降，希望阎锡山能早日到北京接管华北政务委员会的职务，更希望阎替日本军向蒋介石重庆政府从中调解，企图撇开苏美英等同盟国家，直接向中国投降。
阎锡山以商人似的精明意识到这是一个恢复其在山西统治的大好时机。但在他军事力量和政治力量大为削弱的此时，要想恢复自己在山西的统治，单单依靠自己的力量是办不到的。他打算借助日军的残余势力来达到这个目的，于是，阎锡山提出寄存武力的设想。
所谓“寄存武力”就是日本把武力寄存在中国，日军在投降前穿上中国军队的服装，改成中国军队的番号，武器仍由日军掌握，帮助中国军队“剿共”。此建议得到以城野宏为首一小撮不甘心自己失败的驻晋日军军国主义分子的赞同，他们妄图利用阎锡山作保护伞把军队残留中国，等待时机，卷土重来。于是，两者沆瀣一气，狼狈为奸，演了一出“日阎合流”的丑剧，阎锡山派一度投敌当汉奸的赵瑞同日军参谋岩田进行了秘密谈判。
在谈判中，阎锡山提出的驻晋日军原封不动地残留下来的方案没被岩田等人接受，而只同意“个别发动”的办法。双方经过谈判，最后达成协议，依照自愿原则，驻晋日军编成部队归于阎指挥之下，阎对于留用的日本军人，全部给予军官的待遇，在日军现有级别的基础上提升三级，以及其他方面的优待，等等。
阎锡山对此协议非常满意，迫不及待要求日军帮他维持“治安”。为了欺骗人民和社会舆论，他将日军武器上的特有标志击掉，打上“晋”字钢印，还把日军出操时架枪的情况拍成照片送报国民党政府。蒋介石对阎锡山这种罪恶行径不仅不加以追究，反授予“受降模范者”的称号，予以奖励。
阎锡山希望利用日本人来维持他在山西的统治不过是一个美梦而已，最终也没能挡住人民解放军的进军步伐，这一小撮军国主义分子也没能在阎锡山的羽翼下逃脱最后覆灭的命运，随着人民解放战争的发展，他们先后被中国人民解放军消灭。在晋中战役中，残留日军主力被歼，其残余势力在太原战役中被彻底消灭，城野宏、岩田等人被俘，１９５６年被送上军事法庭。
第二颗鸡蛋：联共又反共。不管阎锡山是支持牺盟会和新军，还是制造反共“摩擦”，他的目的只有一个：保住自己在山西政治军事舞台上的主角地位。
阎锡山是要在“三颗鸡蛋上跳舞”，而不是一颗，他要在三方的夹缝中维持自己的存在。可是，当日本人对他的地盘虎视眈眈，蒋介石又从未断过消灭异己的念头时，阎锡山感到借助共｜｜产党的力量保卫山西也许是一条保持自己存在的生路。他对人说：“东北失守后，张学良退出东三省，坚持抗战的都是共｜｜产党，没有一个国民党，假如日本人打进山西来，山西抵抗不了，蒋介石也抵抗不了，怎么办？”言下之意，保卫山西不得不依靠共｜｜产党。
１９３６年，毛泽东给阎锡山写了一封亲笔信，由被俘的晋军三九二团团长郭登瀛送给阎锡山。信中反复陈述红军的抗日诚意，针对阎蒋矛盾的激化，对阎陈说利害。与此同时，晋军其他主要高级将领赵戴文等也收到了毛泽东的亲笔信，民主人士朱蕴山也两次到太原向阎锡山进行疏通，这一切都对还在举步踟蹰的阎锡山产生很大影响。
但是，在蒋介石还在全力“剿共”的情况下，阎锡山不得不有所顾忌，因而他采取了“变通”办法，即采取共｜｜产党的某些进步措施和口号，任用一些从前是共｜｜产党员，现在他认为无党籍的共｜｜产党员，有限度地动员人民开展抗日救亡活动。在这个政策的指导下，他支持山西进步青年组织“牺牲救国同盟会”，并亲任会长。
随后，阎锡山派郭挺一、梁化之去请共｜｜产党人薄一波回晋共商保晋大业。对于赵戴文等不满意他任用薄一波一事，他解释说：“现在抗日是第一等好事，就得用第一等好人去做。而薄一波年轻有为，在山西进步青年中很有号召力，值得一用。”阎锡山此时并不知道薄一波是奉中共北方局之命到山西做统战工作的，知道了就不一定会这样想。
１０月中旬后，绥东形势日紧，阎锡山决定集中兵力击退日军的进攻，当他亲赴洛阳向蒋介石寻求援助遭拒绝后，他决定寻求中共的支持。为此，阎锡山对他最亲信的谋士们进行“民意测验”，日伪要攻绥，红军要出绥抗日，若成为事实，我们守中立，还是助日反共，或联共抗日呢？让他们好好考虑，限期做出答复。数日后开会表决，到会３８人，３１票的绝对多数赞成联共抗日。阎锡山看到联共抗日成为人心所向，也加快了联共步伐，很快与中国共｜｜产党在共同抗日问题达成协议，结成抗日统一战线。山西因此成为全国一盏抗日的明灯，吸引着全国的爱国人士。
七七事变后，抗日战争全面爆发，全国人民同仇敌忾，共赴国难。阎锡山与中国共｜｜产党实行了进一步合作，努力抗战。阎锡山与共｜｜产党的合作除在军事上双方配合作战外，重要的是通过牺盟会和新军两种形式。由于薄一波等一批共｜｜产党人的努力，牺盟会在战前发动群众准备抗日方面做了大量工作。牺盟会实际成为统一战线的组织，用阎锡山的话说：“这个牺盟会就变为社会运动的团体了。”在此基础上，阎锡山又与中共开始合作建立抗日武装。抗战开始以后，阎锡山看到自己军队腐败，战斗力不强，挡不住日军，急于扩军以应付危局。他找到薄一波说：“一波，战争开始了，还没有兵，你看该怎么办？”薄一波斩钉截铁地说：“组织新军，改革旧军。”阎说：“旧军是不好改革的，你就先组织新军试试吧！”
１９３９年，阎锡山在秋林
在薄一波的发动组织下，阎锡山决定把军政训练班和民训干部团的大部学员和国民兵军官教导团的一部分改编为“青年抗敌决死队”一总队，并举行成立大会。决死一总队是新军正式创建的第一支部队，其成员大都是青年知识分子，实行政委制。薄一波任总队政委，下面大队、分队的政治指导员大部分是共｜｜产党员，各级军事指挥人员则由阎锡山的旧军官担任，以后新军多次扩编。
在阎锡山同共｜｜产党达成八路军与新军合作的协议后，八路军给新军大量帮助，有４００名以上的八路军干部被陆续派到三十九军工作，新军实际成为阎锡山和中共合作建立的统一战线性质的军队。太原失守后，尽管接连丧师失地，但山西是阎魂之所系，离开山西，他将一无所有，只有坚持山西。而坚持山西，只有与共｜｜产党合作，依靠八路军拖住日寇，依靠牺盟会发动群众，组织新军，舍此之外，别无他途，于是他打破“十八县”限制，在全省范围内加强同共｜｜产党的合作。山西出现了武装抗日高潮，成为当时抗日的模范战区，形成全国抗战中的“特殊局面”。当然，一直视山西为自己心头肉的阎锡山，绝不容许任何人夺去它，当他发现共｜｜产党在山西越来越有影响力，威胁到自己统治时，他便开始向右转。
１９３８年，国民党五届五中全会召开，蒋介石制定了一系列“溶共”、“防共”、“限共”、“反共”的具体政策，在全国发动反共高潮，而山西新军是要解决的重点问题。赵戴文亲自到西安同何应钦会晤，双方协议：“山西新军问题解决之后，可换得中央３０万法币，两万新兵。”反之，若解决不了，将撤销阎第二战区司令长官的职务，在蒋介石的怂恿和支持下，阎锡山加快了武力解决新军的步伐。
１９３９年，日军发动冬季攻势，阎锡山命令决死二纵队前去迎敌。在二纵队准备向敌发动攻势之际，旧军却从背后向二纵队发动了进攻。随后，阎锡山借口二纵队政委韩钧对他不称长官而称老师是叛变行为，通电全国，进行讨伐，震惊全国的“十二月事变”爆发。
阎锡山按照事先拟定的计划层层围击一纵队，同时在地方上“扫荡”牺盟会，摧毁牺盟会等抗日组织，先后杀害牺盟会洪洞县县长商希敏、蒲县县长李玉波以及隰县、永和、赵城、等县政府和牺盟会的干部，并把八路军“晋西支队”后方医院的数十名伤病员也全部杀害。
对于这场事变，蒋介石一直虎视眈眈，随时准备把手伸到山西，他借口增援，派胡宗南进军山西，企图借反共把阎锡山的势力排挤出山西。此时，由于八路军和新军的反击，虽然阎锡山“扫荡”了晋西南，却在晋西北遭到彻底失败，而且除了一小部分兵力分离出来外，新军其余３３个团全部离开阎锡山，晋东南反而让中央军乘机插了进来，地盘损失了四分之三，被压缩在西南一隅。阎锡山真是赔了夫人又折兵，得不偿失。
盛怒之下，阎锡山把赵承绶等撤职处分，这一来又引起晋系许多高级军官的不满，纷纷弃阎投蒋。阎锡山不仅众叛亲离，在政治上更是威信扫地：“模范战区”的美称宣告破产，“抗日英雄”的桂冠也被他踩在地上，许多进步人士纷纷弃暗投明，离开二战区。蒋介石更是得寸进尺，得陇望蜀，阎锡山处于内外交困之中。
就在这时，中共中央审时度势，认为应该争取阎锡山中立，不能使阎锡山与蒋介石联合起来对付中共。于是，主动向阎锡山提议调停，和平解决“十二月事变”。阎锡山此时已明白解决新军非自己力所能为，为摆脱困境，他同意谈判。１９４０年２月，中共中央派萧劲光、王若飞前往秋林与阎锡山谈判。第一天，阎锡山称病未露面，只派了一个副官来。第二天又派一群记者去“采访”萧、王，仍不露面。到了第三天，再也躲不过了，只得露面，经过谈判，阎锡山不得不表示妥协，同共｜｜产党划界而治，晋西北为八路军活动区域，晋西南为阎军活动区。也许是领略到共｜｜产党的强硬，在国民党发动第二、三次反共高潮时，这位第一次反共高潮的急先锋再也不敢轻举妄动。
第三颗鸡蛋：与蒋介石周旋。蒋对阎采取排挤政策，先是拉拢他手下的李生达，又拉拢傅作义，阎便施计杀了李生达。蒋、阎二人尽管貌合神离，但在反共一事上却唇齿相依。
阎锡山盘踞山西，独霸一方，蒋介石尽管是全国最高统治者，其势力却被排斥在山西之外，自然不甘情愿，因而时刻都在想如何吃掉阎锡山的军队，吞并山西。但一时也无可奈何，１９３５年４月，授予其一级陆军上将。
红军长征到陕北后，蒋介石派自己得意门生嫡系将领汤恩伯等部进驻山西腹心地区，成立“剿匪”总指挥部，任命心腹大将陈诚为剿匪总指挥，乘机扩大国民党中央在山西的势力。正如国民党中央军的一个士兵说的：“嗨，我们不是来和红军战斗，我们来是为了赶走老阎。”不仅如此，蒋介石收买拉拢阎锡山的各级军官，挖阎锡山的墙脚，在晋南还策动“河东道独立”，大有取阎而代之之势。这自然使阎锡山与蒋介石的矛盾激化，于是发生了李生达被刺事件。
李生达，山西人，是阎锡山一手提拔起来的晋系高级军官。但李生达并不满足于山西这方天地，为了飞黄腾达，开始向蒋介石靠近，与蒋书信函电往来，互相馈送礼物。有一次李生达去南京，竟带了汾酒３０００瓶，沁州黄小米５石，分送蒋介石左右及蒋中央要人，这种事情最为阎锡山忌讳，由此埋下了阎与李矛盾的伏笔。１９３４年蒋介石调晋军一师兵力到江西参加第五次“围剿”，阎锡山派当时任七十二师师长的李生达带晋军前往。
李生达率部到南昌后，蒋介石用第一流饭店、新式轿车、豪华宴会招待晋军官兵，使晋军官兵都觉得比在山西好得多。对于李生达，顾祝同更是酬酢往来，竭力拉拢，李生达赴南京见蒋，随到随见，蒋介石还送给李生达５辆小汽车和多项巨款，其拉拢分化之心不言而喻，这使阎李矛盾更加激化。李部开到江西后，军饷和其他一切费用，除阎锡山照例发一份外，国民党中央再拨一份，但要由山西转发。阎锡山却克扣了国民党中央拨的款，只发自己规定之款额。最后还是李生达派人转请蒋介石批准，才每人每月发给３５元。所以李生达部离心倾向十分严重，官兵都不愿回晋。
冯玉祥（左）、蒋介石（中）和阎锡山（右）
蒋介石派兵到山西“剿共”，命令阎锡山在其晋军中挑选１５个团前往陕北剿匪，亲自任命李生达为晋军“剿匪”总指挥。晋军的四分之一被带走，且又是精锐，阎锡山着实心疼，但又不能不执行。于是他想出了一条计策，一面派李生达准备率部渡河，一面又派人收买李生达的卫士熊希月，在即将渡河的凌晨暗杀了李生达。然后阎锡山打电报给蒋介石，借口李生达被暗杀，军心不稳，请予缓期。蒋介石无奈，只好批准，从而暂时阻止晋军入陕。
李生达被刺是阎锡山与蒋介石矛盾尖锐化的突出表现，但这还只是一个插曲。随着日本侵略的日益紧迫，阎锡山和蒋介石在对日和反共政策上也开始产生一定矛盾。
阎锡山这时为了维持自己对山西的独占统治，保住他惨淡经营多年的财产，开始着手整理军备，训练干部，修建国防工事，准备对付日本，这些需要大量开支，阎锡山迫切希望蒋介石能给予一定的经济援助。但是这时蒋介石仍在推行“攘外必先安内”的政策，其政策的重心还是要对内加紧“剿灭”红军和各地实力派。因此，阎锡山的国防准备得不到蒋介石的积极支持。
１９３６年１０月底，由于日本频频向绥远发动进攻，阎锡山害怕蒋介石又牺牲地方利益把绥远和山西在没有战斗的情况下丢入日本手中，因此，他和傅作义赴洛阳向蒋介石请示“守边御侮之计”。但蒋介石还是强调“攘外必先安内”，要他们忍让为重，“必要时给点地方也可以。”对于阎锡山的求援，蒋介石不仅断然拒绝，而且还说：“我想山西阎先生有办法吧！”阎锡山对此非常失望。
在这种依靠蒋介石中央政府无望，而人民群众抗日情绪又高涨的情况下，他提出“守土抗战”的思想，决心自己率领晋绥军击退伪蒙军进攻，保持自己的“领土”安全，于是，有了绥远抗战。绥远抗战开始后，双方连日激战，战事非常激烈，这可吓坏了蒋介石，他心里没有一点准备。蒋介石亲赴太原，要阎锡山、傅作义迅速停火，以免影响中央“剿共”政策。阎锡山对此非常不满，反而进一步支持绥远抗战，赢得“抗日英雄”的美誉。
１９３７年全面抗战开始后，阎锡山接受了蒋介石的任命，担任第二战区司令长官。但是蒋介石对于抗战并不是十分用心，尤其是对于山西、绥远的抗战，企图借抗日消灭异己之心并未收敛。因此，不仅在财政上非常吝啬，而且在战争中也不支持阎。阎锡山孤军作战，加上指挥不当，接连丧失雁门关、平型关等重地。忻口战役开始后，为了获得蒋介石的支援，阎锡山主动对晋军开战以来的战斗不力引咎自责，并表示可以让出省政府的一部分权力给蒋。
随后，为了赢得蒋介石的好感，争取更多的支持，阎锡山还遵照蒋介石命令，枪毙了六十军军长李服膺。李是晋军将领中的“五台派”，是阎锡山的亲信，在南口战役中反击不力，又丢守天镇，舆论大哗。南口战役总指挥汤恩伯为了推卸自己对南口战败的责任，在蒋介石面前狠狠地告了李服膺一状，并在阎锡山面前痛哭流涕。结果，蒋介石严厉命令阎锡山“军法从事”。这时，阎锡山也需要一个替罪羊来推卸自己失败的责任，同时还想借李服膺人头扼住晋军溃逃之风振作前线士气。这样，李服膺便在忻口战役即将开始时成了阎锡山的刀下之鬼，但这似乎并没有博得蒋介石的多少好感。
忻口战役打响后，蒋介石借口前线各军必须统一指挥，“方能适机运用决战”，要求阎锡山把指挥作战全权交给卫立煌，阎锡山不得不照办。据当时有关电报记载，中央军这时甚至发起过“倒阎运动”。１９３８年下半年，国民党ＣＣ系开始筹划在山西开展工作，蒋介石也向阎锡山提出在山西恢复国民党省党部。阎锡山认为这是蒋介石对他的压迫，不予理睬，国民党中央便设法给二战区制造困难。１９３９年年初，山西财政厅厅长王平赴重庆交涉财经费及有关后方情况时，曾受多方刁难。蒋介石对阎锡山在山西搞的一套也颇为不满，并再施拉拢李生达的惯技，派门炳岳牵线，把傅作义从阎锡山手下拉走。
尽管阎锡山和蒋介石之间貌合神离，勾心斗角，可是在反共问题上，却谁也离不开谁。由于新军和牺盟会日益发展壮大，引起了只是想利用一下牺盟会和新军的阎锡山的不安，他本能地产生了大权旁落之感，害怕自己这个牺盟会会长和司令长官被架空，因此开始积极反共，蒋介石要反共也必须借助阎锡山。
１９３９年，阎锡山派梁化之去重庆国民党中央训练班受训，还参加以陈诚为首的“三青团”代表会议，受到蒋介石特别重视。蒋介石亲自接见梁，对他说：“阎先生同共｜｜产党斗争是有经验的，在这方面阎先生无论有什么困难，中央一定无条件地予以支援。”梁化之回来后，阎锡山便设立国民党山西省党部，下令所有的高级干部都参加国民党。不久，阎锡山在蒋介石的支持下，发动了“十二月事变”。
蒋介石利用阎想依靠他的力量恢复在晋东南统治的企图，借反共之机把阎锡山的势力排挤出晋东南，阎锡山非常后悔自己引狼入室，发出悲叹：“我不亡于共，也要亡于蒋。”但又无可奈何，只能一面表示听从国民党中央，一面暗中节省国民党拨下的军费，加强组织，巩固自己地位。为了巩固实力，重整队伍，他决定离开秋林，将战区司令部移往山西吉县。
１９４０年４月间，阎锡山偕赵戴文从秋林渡河迁驻吉县南村坡，以“表示前进”。由于南村与“难存”谐音，阎锡山就把南村坡改为“克难坡”，把战区司令部驻地称为“克难城”。这样，一来表示要在不断的克服困难中存在发展的决心；二来表示“克去‘南村’”，便能住下去了，他还把１９４２年命名为“克难年”。果真，他在这里一住便是５年，直到抗日战争前夕下山摘“桃子”为止。
