中法战争后，清流的鼎盛时代一去不复返，张之洞从清流派中跳出，转而学习洋务，成为继李鸿章等人之后的“洋务殿军”。李鸿章曾经讥诮说：“天下事为之而后难，行之而后知。从前有许多言官，遇事弹纠，放言高论，盛名鼎鼎，后来放了外任，负到实在事责，从前芒角，立时收敛，一言不敢妄发，迨至升任封疆，则痛恨言官更甚于人。尝有极力攻讦我之人，而俯首下心，向我求教者。”李言下所指即张之洞。到庚子事变，李鸿章与张之洞因政见不合，以致相互谩骂起来。李主张联俄，张主张联日，李力持签订辛丑条约，张反对签约。李上奏曰：“毋听张之洞书生见解。”有人将此语传入张之洞耳中，张大怒道：“我是书生，他是老奸巨猾。”为此，慈禧不得不下诏为二人调和。
袁世凯是李鸿章淮军集团的后起之秀，受李影响甚深。袁做事干练明达，但不免权诈，用人重视实际才干，而不喜文人书生，曾谓：“宁用不通之学生，不用虚名之文士。”甲午之战后，李鸿章失势，袁世凯另觅门路，多方钻营，希望能得到编练新军的机会。张之洞这时也帮了他一把，保荐袁世凯为练兵人才，称他“于兵事最为相宜”，可以使他“专意练习兵事”。袁世凯得到小站练兵的机会，奠定了他日后发迹的基础。
李鸿章死后，袁世凯承继了他的衣钵，成为直隶总督兼北洋大臣。袁世凯对张之洞是既敬重又鄙夷，敬重张是政坛前辈，位高望重，鄙夷的则是张时露书生见解，迂阔不当。但从增强己方政治势力考量，袁世凯此时对张之洞仍竭力结纳。袁世凯初任直隶总督，曾南下汉口，拜会张之洞。袁与张的属下谈论时，就极力赞誉张之洞在湖北规画宏大，称：“当今唯吾与南皮两人，差能担当大事。”在宴会上，袁、张交谈甚为融洽，宴后，屏退仆从，两人密谈二小时之久，后张之洞因精力不支，昏昏沉沉，倚着桌子竟要睡着了。袁世凯悄然退出，吩咐下人勿惊动张大帅。袁以直隶总督身份，按制度出入辕门必须鸣炮，张为炮声惊醒，急忙追袁，追至下关，两人各致歉意，约定后会有期。
庚子以后中国政局进入一个新的时代，史称“清末新政”。袁、张在政府官员中属于思想较为开明，努力学习西方的一派，在各自辖区对新政的纵深发展和推广着力最多，北洋新政与湖广新政也都声名卓著，领先于其他各省。两人政治改革趋向相近，时常函电往返，交换意见，取得共识后奏报朝廷。两人又因禀性、经历不同而各有所长，在协商过程中，取长补短，彼此尊重，形成了一种既合作又竞争的良性互动。
譬如练兵一项，袁世凯因小站练兵起家，最富经验，而张之洞自称“弟儒家者流，岂知兵事”，对袁十分推崇，称“当世武学，敬当推袁”，所以编练新军之事张十分注重向袁请教。后来同入军机，张之洞又问起练兵的秘诀，袁谓：“练兵的事情，看起来似乎很复杂，其实也很简单，主要的是要练成‘绝对服从命令’。我们一手拿着官和钱，一手拿着刀，服从就有官和钱，不服从就吃刀。”而有关文教方面，因张之洞中过探花，翰林出身，而袁世凯则举人都未中，故袁世凯多向张谦逊求教。如废科举，袁世凯以张之洞为“当代文学之宗”，希望由张主稿，张未同意。袁起草后，立即电张，两人会衔上奏，但未能取得中枢赞同。后年袁世凯又起草一份请停科举的奏稿，由张之洞斟酌增减，最终定稿，上奏后得到朝廷批准，在中国历史上推行了一千多年的科举制遂告结束。
上述诸事尚是小过节，关键是袁、张品性不同，清、浊难以合流。张之洞自命“儒臣”，而袁世凯实为“枭雄”，两人在许多方面都扞格不入。袁世凯善施权术，为操纵朝政，向执掌军机处的奕劻及慈禧太后的亲信太监大量行贿，为清流所不耻，而张之洞清高自许，朝中缺乏奥援，更不屑钻营。
袁世凯重视人才，一旦发现即引为己用，并不遗余力向朝廷举荐，故形成一个庞大的势力集团，而张之洞仅只罗致文学名士，褒奖有加，门下政事人才凋零，多碌碌之辈，张亦甚少荐举。袁世凯酷爱揽权，除直隶总督和北洋大臣的职务外，还身兼督办政务、练兵、电政、铁路等职务，权倾朝野，尤其是他编练北洋六镇新军，几乎操纵清廷大半兵权。张之洞曾称袁“借俄事而练兵，借练兵而揽权”，表达了自己对袁权力膨胀的担忧。在清流与袁世凯的权力斗争中，张之洞虽未直接出面，但隐约之中仍可见到他的身影。湖北按察使梁鼎芬曾两次参劾袁世凯，谓袁权力过于膨胀，“为我朝二百余年满汉疆臣所未有”，而且党羽众多。梁把袁比拟为有篡权野心的曹操、刘裕。梁鼎芬为张之洞的亲信，善于迎合张之意旨，为张所倚重。梁两参袁世凯，恐怕其中正有张之洞的影响因素，或者至少也反映了张本人对袁的观感。不过当时时局险恶，袁世凯自有其不可或缺的作用，所以慈禧对梁折批复道：“当此时局日棘，乃不察时势之危迫，不谅解任事者之艰苦，总是有意沽名，摭拾空言，肆意弹劾，尤属非是，著传旨申饬。”
1907年军机处空缺，慈禧以张之洞、袁世凯补入军机处。在袁世凯幕僚张一麐眼中，此时袁、张二人关系相当融洽。袁、张两人初入京，即深相结纳，张之洞与同僚作诗钟，得“蛟断”二字，遂作“射虎斩蛟三害去，房谋杜断两心同”两句，以唐时名相房玄龄与杜如晦比拟自己与袁世凯，期望两人能同心协力，共保清室。在政治主张上，张主张缓进，袁主张急进，只是略微有所不同。但据张氏后人讲，“蛟断”一联是张之洞在入军机以前所作，与朝政全无关系。而另有种种迹象表明，袁、张二人仍品性歧异，心存嫌隙。
袁世凯除了勤于政事外，别无嗜好，而退朝以后，张之洞每每邀请袁同游海王村。袁虽不喜好闲游，但碍于情面无法推辞。闲游之时，张之洞还时不时地要袁世凯购买一两件古物以为玩赏，袁对于此道素无研究，深以为苦。另据辜鸿铭记载，袁世凯见驻京德国公使说：“张中堂是讲学问的，我是不讲学问，我是讲办事的。”语露鄙夷之意。张之洞的幕僚辜鸿铭反唇相讥道：“诚然。然要看所办是何等事。如老妈子倒马桶，固用不着学问。除倒马桶外，我不知天下有何事是无学问的人可以办得好。”张之洞对此什么态度呢？据胡思敬言，也是深为嫉恨。
但有精明如慈禧的当政者，尚能笼罩得住局面，袁、张两人还不至于彼此倾轧。1908年光绪与慈禧先后病故，政局为之大变。摄政王载沣与皇太后隆裕，要为光绪皇帝报当年戊戌政变时袁世凯告密的一箭之仇，所以在办理完光绪、慈禧的丧事后，就以足疾为由罢黜了袁世凯。
在罢黜袁世凯的问题上，张之洞扮演什么角色，有不同说法。一、兔死狐悲，打马驴惊。张、袁皆为前朝重臣，面对新兴政治势力两人休戚与共，故张之洞积极维护袁世凯。载沣主张严惩袁世凯，而张之洞力言：“主幼时危，未可遽戮重臣，动摇社稷，可否罢斥驱逐出京？”得到隆裕认可，张出来对袁谓“回去休息良佳”，袁谢张“世叔成全”。袁离京前，张来送行，叹息道：“行将及我。”袁去，张亦自感其势孤危。
二、参与罢黜袁世凯。张之洞与袁世凯品流不同，彼此扞格。载沣罢黜袁世凯，亦与张商议，张以为去袁可大力擢用清流，一展抱负，乐得参与。其子张权泄密于御史赵炳麟，赵复邀陈田共同上疏，参劾袁世凯，对罢黜袁世凯也起到了重要作用。两说皆有所见，至于实际真伪，尚待史学家进一步考证。
袁世凯被罢黜后，张之洞在朝中孤立无援，在载沣等亲贵势力面前败下阵来。载沣专用满洲亲贵，以载洵掌管陆军，载涛掌管海军，朝局大坏，张之洞力争以为不可，结果为载沣所申斥。归寓，张之洞顿足槌胸，以致呕血，叹曰：“今始知军机大臣之不可为也。”不久张之洞含恨而终。
袁世凯退隐林下，声望反而越发高涨，终于会逢辛亥革命之变，东山再起，成为中华民国的大总统。1912年，一代文豪章太炎路过武昌，听闻武昌人甚为礼敬张之洞，认为武昌义军所资仗的人材、军械都是张之洞当年所留。到北京后，章太炎把此事说与袁世凯，袁愤愤不平，道：“南皮竖儒，今犹为人引重耶。”并举数例以证明张之过失，又称练陆军及遣学生出洋，皆是自己所倡议，与张之洞无关。章太炎不赞同袁之诋毁张之洞，认为：“死者尚忌之，况于生人。褊浅若是，盖无足观矣。”章遂对袁改观。实则，袁世凯之诋毁张之洞，除了袁之气度偏狭外，袁、张两人的历史过节也是其中重要因素。