成化十四年（1478年），辽东局势因陈钺误杀女真贡使而进一步恶化，引发边疆动荡。汪直欲借此机会亲征辽东以树立个人威望，但遭到朝中明智之士如太监怀恩的反对，建议派遣朝中重臣前去安抚。马文升主动请缨，担此重任，成功安抚了建州女真与海西女真，展现了其处理民族关系的高超手腕。然而，马文升拒绝汪直派人同行的提议，这一举动无疑再次触怒了汪直，为他日后的不幸埋下了伏笔。
汪直利用其权势，与刑部尚书林聪等联合调查边疆事务时，故意将辽东的动乱归咎于马文升禁止边贸农器交易的政策，尽管马文升据理力争，但最终还是被下入诏狱，并被贬谪到重庆卫戍守，这一去就是四年之久。直至汪直失宠，马文升才得以恢复官职。
成化二十年（1484年），马文升再次被朝廷起用，以左副都御史的身份第三次赴任辽东巡抚。这一次，他的到来受到了当地士卒和民众的热烈欢迎，因为马文升曾公正地评论过陈钺的问题，其公正无私的形象在辽东深入人心，士卒们以鼓掌跳舞的形式表达对这位清官的欢迎与敬佩。
五、主持兵部
成化末年至弘治年间，马文升在明朝政坛上扮演了极其重要的角色，其在军事、民政和朝政改革方面的贡献，展现了他作为一位深具远见与执行力的官员形象。
成化二十一年（1485年），马文升被任命为都察院右都御史，负责总督漕运，并兼顾凤阳等地的巡抚事务。在淮、徐、和等地区遭遇饥荒时，他迅速调度江南粮银，有效缓解了灾情，显示了其处理紧急状况的能力。同年升任兵部尚书，但因宫廷政治的复杂，次年被调至南京兵部尚书，这背后有李孜省等人的暗中操作。
明孝宗即位后，马文升被召回中央，担任都察院左都御史，他针对当时流行的迷信活动，提出了一系列清理措施，旨在恢复朝纲正气。在弘治元年，马文升开始提督十二团营操练，针对军政废弛问题，他实施了严格的考核制度，罢免了数十名贪腐无能的将校，这一系列雷厉风行的改革虽然触动了一些人的利益，导致了针对他的威胁与诽谤，但孝宗皇帝给予了坚定支持，甚至增派护卫保护其安全。
在对外政策上，马文升主张慎重使用武力，但在必要时也果断采取军事行动，如在哈密问题上，他巧妙利用地方矛盾，策划夜袭哈密城，成功收复失地，这是明朝官军首次深入该地区作战，显示了其高超的军事策略和外交手腕。
马文升在朝中与吏部尚书王恕并称为人望所归，他们的正直与政绩赢得了广泛的赞誉。然而，尽管马文升声望日隆，却未被选为吏部尚书，这让他心中难免有些许失落，但他并未因此消极，而是继续勤勉于职守。
晚年，马文升面对儿子马玠的过失，虽得孝宗宽宥，但他仍引咎自责，请求辞职，表现出一位老臣的自我要求与责任感。尽管身体渐衰，他仍多次请求致仕，但孝宗念其功绩，未予批准，反而加授其官职，显示了对这位资深重臣的倚重与尊重。
六、遭劾求归
弘治十四年（1501年）十月，马文升被改授为吏部尚书，这是一个极为荣耀的职位，同时被加封为少师兼太子太师，这样的荣誉在明代历史上极为罕见，足以证明孝宗皇帝对马文升的信任与器重。此时，马文升已是年迈之躯，但其对朝政的忠诚与热情并未随年龄增长而减退。在弘治十七年（1504年），面临京察，即官员的定期考核，孝宗特意召见马文升，尽管听力已不如前，马文升仍旧表示将公正无私地进行官员的黜陟，展现出一位老臣对国家治理的深厚责任感。
马文升在任吏部尚书期间，对官员的考察和任用极为认真，尤其是对“传奉官”这一特殊群体的处理，显示了他的政治魄力和改革决心。传奉官是指未经正常科举或荐举程序，直接由皇帝特旨任命的官员，这类官员的泛滥往往导致官僚体系的腐败和效率低下。马文升不仅提出异议，还实际操作，裁撤了大量的传奉官，优化了官僚队伍，节省了国家开支，这一系列举措赢得了朝野的赞誉，但也因此树敌不少。
马文升在人事任免上的严格与公正，难免触动了一些人的利益，其中与刘大夏的矛盾尤为突出。刘大夏与马文升在官员评价上的不同，以及对特定官员的提拔与抑制，引发了朝中不同派系的对立。随着正德元年（1506年）的到来，刘大夏一派的反对力量汇聚，最终导致了马文升在提交二十一道奏疏后，被批准致仕，结束了其辉煌而坎坷的官场生涯。
马文升的晚年，恰逢宦官刘瑾专权，因其与一些反对派官僚的密切关系，被削秩除名，这对于一位为国家鞠躬尽瘁的老臣来说，无疑是极大的打击。然而，历史的车轮不会永远偏向邪恶，正德五年（1510年），马文升去世两个月后，刘瑾被捕，朝廷恢复了对马文升的名誉，并追赠其一系列荣誉，以示对其一生功绩的肯定和怀念。
结语
马文升的一生，是忠诚与智慧的象征，是勇敢与廉洁的典范。他以实际行动践行了“文能提笔安天下，武能上马定乾坤”的古训，不仅在军事上扞卫了国家的安宁，更在政治、经济、文化等多方面推动了社会的进步。