于右任离开凤翔后向西入甘肃，下四川，在重庆被刘湘、杨森殷切挽留，住了数月，后乘轮船东下，于１９２２年６月间抵达上海。不久因陈炯明叛变，孙中山也于８月１３日到达上海。那一天，于右任和１００多位同志前往码头迎接，随即又到法租界莫利爱路孙中山住处，报告西北革命４年的苦战经过，并谢负命之咎，孙中山安慰他说：“失败何伤，我这次不也是因失败来上海？”当下于右任不胜感慨地说：“我的胡景翼，等于先生的陈炯明。”１０月，复旦大学成立２５周年时，特向创办人之一的于右任赠法学博士学位，当时于右任方满４４岁。就在这个月里，他又与叶楚伧等人另创办了一所上海大学，并出任校长。

１９２３年元月２１日，孙中山正式任命国民党本部各部长，２３日委任于右任为参议。３天后，便派于右任北上，与蛰居天津的段祺瑞商洽要公。因为孙中山在当日发布了一个很重要的和平统一宣言，提出裁兵计划三纲要，以奠立和平之基础，解决迫在眉捷的民生问题，避免人民遭殃，百事凋残。如此重大的决策，孙中山要于右任代表他前晤段祺瑞，请段对和平统一宣言所列举的裁兵计划，表示支持。由于于右任一贯对孙中山忠坚，他决心圆满地完成这一重大的历史使命。号称“北洋之虎”的段祺瑞在于右任的说服下复电欣然赞同，后来才有国民党和北洋皖系、奉系通力合作讨伐曹锟、吴佩孚的局面，这就是于右任奉孙中山之命的天津之行所奠定的基础。２月２１日，孙中山抵达广州设立大元帅府，续行大元帅职权。３月１４日，于右任自天津抵广州复命。从此于留在广州，追随孙中山左右，襄赞一切，处理军机大计。

１９２４年１１月１５日，孙中山北上，于右任自沪随行。１９２５年元月底，孙中山病危时，指派于右任、李煜瀛、吴敬恒等为政治委员，代理庶务。其间孙中山派于右任赴沈阳与张作霖洽谈，东北之行虽然圆满完成，但于右任在孙中山逝世时，未有来得及赶回北京在总理遗嘱上签字，引为终生遗憾。５月上海发生“五卅惨案”，于在北京天安门广场上登台发表抗英演讲。７月１日，国民政府在广州成立，于右任被推为国民政府委员。１１月，林森等人召开了反对孙中山“三大政策”的“西山会议”，于右任表示反对，拒绝参加会议。年底，他亲去河南，检阅靖国军部队及将领，受到时任河南督办岳维峻及部队的盛大欢迎。在欢迎大会上，于发表演说：“革命是被压迫阶级对于压迫阶级的一种反抗行动；革命是人类社会进化过程中的必有突变现象；革命是根本解放被压迫阶级根本改造社会的方法，革命是舍己利人，最高尚、最神圣、最光荣的事业。”他的讲话不但阐明了为什么革命的道理，而且还教导了广大官兵忠于孙中山的遗志，特别对于老部下岳维峻，更是殷切希望他带好部下，完成国民革命任务。

１９２６年，国民军在河北、山东相继失利，冯玉祥率部退向察哈尔后下野，去莫斯科；直奉两系军阀以北京为中心，盘踞河北、山东、河南数省，并企图南下。眼看形势的发展，对国民革命极为不利，中共北方区领导人李大钊，特请于右任急赴苏联请冯玉祥回国，解西安之围。于右任秘密从北京赶赴天津，再潜往上海，即搭乘一艘苏联轮船经日本赴海参崴，７月下旬才赶到莫斯科，在郊外与冯玉祥会面，经于会谈，冯接受了李大钊提出的：进军西北，解西安之围，出兵潼关，策应北伐的进军计划。于右任不远万里敦促冯回国，经历了平生从来未见过的惊心动魄的场面与难以想象的磨难，终于胜利完成了这一光荣使命。９月１５日，冯与于抵达五原（今内蒙古西部的一个县），为了早日实现李大钊的进军计划，于右任在五原重新组建国民联军。９月１７日，他在兴隆长车马店广场上，搭起了一座临时主席台，所有的部队都全副武装，附近的民众也纷纷赶来参加誓师大会。他还亲自起草了誓词，由冯玉祥宣读，他以国民党中央执行委员会常委的身份授旗监誓，主持了誓师典礼大会，并通电全国，宣布国民联军总司令部成立，冯玉祥任总司令，全军集体参加了国民党。会后于右任根据李大钊提出的进军计划，与冯玉祥制定了“固甘援陕、联晋图豫”的八字战略方针。尔后，于还着手建立了国民联军最高特别党部，他与刘伯坚等１１人当选为最高特别党部的执行委员，冯玉祥与史可轩等５人当选为监察委员。

这时的西安城，在刘镇华部的重兵包围下，完全成了一座孤城。杨虎城等在敌众我寡，装备悬殊的条件下，坚守达８个月之久，城内一切可充饥的都已吃光，冻死饿死的军民已达５万。为了早日解西安之围，于右任还说服了马家，让马鸿达的部队共同东开。孙良诚、刘汝明等部按于右任制定的作战方案进军，节节取胜，很快进到咸阳，孙、刘等指挥轻骑绕到南北麓至敌后，猛击刘镇华部的背后，刘镇华指挥主力反击，孙、刘等部一受挫，欲想撤退，由于苏联顾问的反对，加之邓宝珊带病及时到前线指挥作战，孙、刘等部一举攻占了战略要地三桥镇，此时城内守军乘机出击夹攻，到１１月２７日，刘镇华部开始溃退。２８日，西安解围，饥寒交迫的市民一齐涌上街头，欢呼解围胜利。

１９２７年１月，于右任兼任陕西省政府主席。不久，他相继任命了各部、厅的领导人，其正副职多数是国民党左派和中共党员，当时在陕的共产．党员有魏野畴、李子洲、史可轩、杨荃骏、杨晓初、许权中、刘天章、陈家珍等均被委以重任，参与领导。于右任在出任国民联军驻陕总司令期间，认真执行孙中山先生的三大政策，与中国共产．党真诚合作，工农运动蓬勃发展，陕西出现了空前大好的国共合作的局面，是大革命时期全国革命运动高涨的少数几个省份之一。国民党陕西省党部成立时，于右任大书“一切权利属于党”、“一切利益归于民众”１５个大字，刻石嵌入省党部大门墙壁；又横书“工农商学兵联合起来”，作为各界民众团结战斗的口号。在于右任的直接领导下，驻陕总部还创办了中山学院，讲授三民主义，学习革命理论，培养造就了一大批政治工作干部。于右任还颁布了一系列新法令，取消苛捐杂税，减少地租，发展农业，改善工人待遇，维护工人合法利益，开展群众革命运动，督促停顿已久的中小学迅速开学等作了不少工作。同年６月，他参加了汪精卫、冯玉祥的郑州会议，并兼任第二集团军第六方面军总指挥等职。９月１６日，国民党宁汉合流成立“中央特别委员会”于出任特委会委员兼监察委员、军事委员会委员等职。国民党二届四中全会以后，提升为国民政府常务委员兼军委会常务委员。１９２８年１０月，出任国民政府常务委员兼审计院院长。１９３１年，提升为监察院院长，从此担任这个职务达３３年之久，直至病卒前。

于右任自１９３１年担任监察院院长以后，虽然没有再直接指挥千军万马行军打仗，但他的军事活动一直都未有中止过，特别在抗日战争中，他不但力主抗战，而且还主张抗战到底，表现出了高度的爱国主义精神。１９３７年７月７日，抗日战争爆发后，于右任曾多次发表讲演，力主抗战，号召全国军民团结起来，一致对敌，争取自由生存。同年９月２０日，他发表了民族抗战之精神的讲演，在讲演中，他极力赞成团结各界人士抗日，实现第二次国共合作，他还曾公开批评了蒋介石在抗战中的动摇与不力。他还当面向蒋介石进言，同年１２月２９日深夜，当蒋介石用专车接于右任至某处，就与日方妥协进行磋商时，他对抗战到底的解释是：“抗战到底者，就是能打要打，不能打也要打！只有打，才能胜利，也必能胜利！”蒋介石听后很肃穆地对于说：“我了解于先生的意思了！”南京失守后，于乘船到达九江，然后转赴南昌、长沙，沿途对抗战工作都作了视察，并一再宣传自己力主抗战到底的主张。