段祺瑞成为袁世凯小站练兵的左膀右臂，先后出任过一系列重要职位天津小站，是北洋军的发祥之地，淮军将领周武壮和长芦盐运使胡橘芬先后在这里屯军和练兵。1896年，清政府授命袁世凯督练新军后，袁世凯四处网罗人才，各路将官纷纷汇集小站。一天袁世凯和新到的将领一一闲谈，却发现少了一个人，连忙问道：“段祺瑞呢？段祺瑞怎么没有来？”

一旁的唐绍仪告诉他段祺瑞正好回家完婚去了，但是，已经发电报催他尽快来报到。段祺瑞回老家与吴氏结婚之前，并不知道已被调往小站，协助袁世凯练兵。等接到电报时，他不免有些左右为难了，一边是人生大事，一边是军令如山，自己身为军人，自然应服从命令，这时离去，对于长辈及女方而言确实不好交待。正在为难之际，忽又接得一封电报，是袁世凯发来的，一是说婚姻是大事让先办，去小站之事可延几日；二是贺喜，并有银票一张，作为贺礼。

段祺瑞深受感动，袁世凯当时正飞黄腾达之际，居然对他如此看重，如此体贴，他不由得产生了“士为知己者死”的想法。办完婚事，段祺瑞立即奔赴小站。下了车，看到一行人正等着迎接他。同学冯国璋迎了上来，指着一位被人群拥着的矮胖的人说：“芝泉，快过来见袁大人。”

看到袁世凯如此礼贤下士，段祺瑞心潮起伏，赶忙上前几步，行了大礼，说：“祺瑞不才，怎敢劳大人亲迎？”袁世凯哈哈大笑，拉住段祺瑞，说：“不必如此，芝泉，今后我们就是一家人了。”随后邀段祺瑞同上一辆车回到军营。几天后，段祺瑞在天津的一家饭店举行婚宴，招待小站同僚。袁世凯也出席了宴会。婚宴结束后，饭店老板告诉段祺瑞：“袁大人已经吩咐了，所有花销全记在他的名下。”段祺瑞又一次大受感动，从此对袁世凯忠贞不贰，甚至在袁世凯一度冷落他的时候，也不改初衷。

袁世凯是个奸雄，一生善于拉拢人、控制人，因而笼络不少人为他卖命。段祺瑞出洋留学过，在当时确是一位有真才实干的人，袁世凯收服他，就是要使他为己所用。果然，段祺瑞成为袁世凯小站练兵的左膀右臂，先后出任过一系列重要职位。同另外两位著名人物冯国璋和王士珍一齐被称为“北洋三杰”，在当时，为袁世凯的心腹将领。

1913年5月，袁世凯奏请清政府设立了军政司，他本人兼任督办，段祺瑞为参谋处总办。为了迅速扩充北洋军，急需大量对袁“效忠”的军官，袁世凯让段祺瑞负责北洋军事学校培养军官。

最大的北洋军校是陆军速成学堂，学员2000人，分步、骑、炮、工、辎五种兵科，如齐燮林、陈调元、陈树藩、王永全等后来一批军阀都是此校的毕业生，中国最大的军阀蒋介石也是该校学生。军校的创建，为袁世凯输送了大量军官，成为袁世凯的嫡系，北洋系统的中坚。由于段祺瑞的这一经历，北洋将领许多均出自他的门下，因此段祺瑞后来在北洋系统中极具号召力。

1903年6月，袁世凯建立了北洋第一镇，以后又陆续建立了五镇，称为北洋六镇，北洋六镇是名符其实的全国第一武装。

段祺瑞先后担任过第三镇、第四镇、第六镇的统制。1911年，辛亥革命爆发时，段祺瑞已升任北洋军第二军军统，之后又兼任第一军军统，夺得了北洋军的最高统治权，成为北洋军的第一号大将。在北洋军的高级将领中，段祺瑞是最具实力和号召力的人物，但却是不太讨满清亲贵喜欢的一个。段祺瑞平生刚愎自用，从不巴结人，这点同北洋三杰中的王士珍、冯国璋不同。王士珍、冯国璋以及除世昌、姜桂题等人平时很注意同朝中亲贵拉关系。正因为这样，段祺瑞尤受袁世凯信任。

1905年9月，北洋军阀在河南举行秋操。这次秋操有北洋军中段芝贵统领的第三镇和段祺瑞统领的第六镇。段芝贵排起来算是段祺瑞的族叔，但其威望和官职均比不上段祺瑞，因而反被人称为“小段”，段祺瑞为“老段”。

段祺瑞是会操前一个月由第四镇调往第六镇的，袁世凯希望精通炮术的他能够在秋操中指挥炮兵大显身手。袁世凯问：“知道为什么调你去六镇吗？”段祺瑞点点头。袁世凯又说：“此次秋操关系重大，达官亲贵云集，列邦均有使节出席，各省也要差员前来观操，因此，我要你十足地摆出新军的威风和气派。”段祺瑞果然不负袁世凯的厚望，秋操时令人瞩目，为袁世凯脸上大添光彩。秋操之后，英国驻华公使朱尔典有一次会见张之洞时说：“我看中国的军事，惟有新建陆军；而中国的军事统帅也惟有袁总督袁大人了。”

然而，北洋军势力膨胀，满族贵族深为不安，尤其对袁世凯极不放心。一些人上奏袁世凯，认为他“能谄人又能用人”，已呈尾大不掉之势。清政府为了防止袁世凯势力过于庞大，就准备另外培训一批力量和袁对抗。于是，一批满族少壮派便登场了，良弼就是其中的代表。良弼系前清宗室，祖上因犯罪丢了黄带子，曾过过一段平民生活，成年后才恢复了宗室身份，系上了黄带子。在满族亲贵中，他是一个有才华、有抱负的年轻将领，因此，他从日本士官学校毕业后不久，就得到兵部大臣铁良的重用。

1906年秋，清政府举行了著名的彰德会操，一改惯例，南北军同时参加演练，阅兵大臣和审判长也都派了满汉各二人，阅兵大臣是袁世凯和铁良，审判长冯国璋和良弼。这时，清政府想打破袁世凯和北洋军一统天下的局面。

段祺瑞也意识到了这一点，他对袁世凯说：“朝廷对咱北洋军是越发不信任了。”

袁世凯故作不解，问：“此话怎讲？”

“这还不明摆着，阅兵大臣一下子派了两个，审判长中还有一个良弼。”袁世凯自然明白，但又不想让段祺瑞在众人面前表示他的不满，于是不露口风：“芝泉，你是这样看吗？也许朝廷并非这个意思啊。”

段祺瑞却冷笑一声，说：“宁可信其有，不可信其无。”

袁世凯沉默良久，劝道：“芝泉啊，事已至此，我们就要格外小心。你的脾气我知道，但这一回不同往常。对铁良和良弼，你要特别遵从，我的意思你明白吗？”

彰德秋操后不久，袁世凯的老朋友阮忠枢突然到天津来看袁了。他告诉袁世凯，朝廷准备把兵部、练兵处、大仆寺合而为一，设陆军部，统辖全国新军，北洋六镇也不例外。袁世凯暗暗心惊，朝廷恐怕是铁了心要收回北洋军了，怎么办？阮忠枢劝他：“你现在权势过大，树敌又多，在这种局面下，把住兵权，弊大于利啊。我看不如就此放手，以防日后生出事端。”

袁世凯默然，一时无法决断，于是派人找来段祺瑞。

段祺瑞听后，不假思索地说：“祺瑞以为，不仅要交，而且要主动交。”在北洋将领中，段祺瑞素以强硬著称，这次却劝袁世凯主动交出兵权，袁世凯有些意外。

“芝泉，你不是在讲反话吧？”

“不，”段祺瑞分析道：“眼前不比从前了，庆王爷被人堵了嘴巴，在朝中也不便为大人多说话。而铁良、良弼又相逼甚紧，不达目的，是不肯罢休的！与其被动，不如主动，把兵权交出去，暂避风头，再作计较！”

袁世凯何尝不明白段祺瑞说的这一切，只是一时割舍不下自己苦心经营的北洋六镇。段祺瑞接着说道：“交出北洋六镇，不过是走走场而已。北洋军官自上而下，均是大人一手扶持，即便铁良、良弼要改组，朝廷也不能不顾忌。只要我们这些人在职一天，陆军部就翻不了什么大浪。交出去又何妨？”

一言惊醒梦中人，袁世凯恍然大悟，连声道：“说得对，说得对！我也是如此想的，芝泉，以后就要靠你们了。”

不久，袁世凯便呈上一份关于陆军各镇分别归部归直的陈奏，主动提出六镇中的一、三、五、六镇交给陆军部，又以直隶防务为由留下二、四两镇归直隶总督掌管。而后，袁世凯又自请朝廷散去的“兼差八项”，以缩小目标。

尽管如此，满族亲贵仍不放心，不到一年又内调袁世凯回军机。进京之后作为军机大臣的袁世凯更加小心谨慎，背地里与段祺瑞、冯国璋等高级将领保持密切联系。

1908年11月16日，天空阴沉沉的，寒风萧瑟，落叶纷飞。紫禁城内外王公大臣进进出出，如丧考妣，全副武装的骑兵在街上穿梭巡逻。

这天，段祺瑞接到袁世凯的密信，微服简从从保定急急赶到北京，乘马车来到了紫禁城东边锡拉胡同袁世凯的府第。袁府大门紧闭，门前冷冷清清。随从敲开了大门，袁府管事申明善迎了出来，把段祺瑞引入客厅。客厅里空无一人。申明善正要退下，段祺瑞问他：“出了什么事？”

这时，袁府大公子袁克定急匆匆地到了客厅，顾不着寒暄两句，便告诉段祺瑞：“段督办，不好啦！皇上和太后驾崩。”

光绪是在12月22日死的，不到一天，西太后也接踵而去了。段祺瑞听了大吃一惊，急忙询问有关情况。袁克定说，袁世凯前天夜里就被召进宫里，现在还未回来，因而十分担心。段祺瑞又问：“可知嗣位立的是谁？”

袁克定回答，太后懿旨立的是醇亲王载沣之子溥仪，醇亲王载沣为监国摄政。段祺瑞心中一凉，载沣摄政，对袁世凯太不利了。

载沣是光绪皇帝的亲弟弟。戊戌变法光绪帝因为袁世凯出卖而被囚于瀛台，郁郁而终。载沣一直对袁世凯怀恨在心，两人甚至当面争吵，矛盾十分尖锐。“那么，袁大人留下了什么话吗？”

袁克定摇摇头。段祺瑞便起身告辞，临行前告诉袁克定，如果袁世凯要见他，请在两天内到租界来找。

段祺瑞最终没有见到袁世凯，于是悄悄地回到保定。

到了保定，段祺瑞闭门谢客。而后，许多军官纷纷赶到保定前来探病。保定督办公署将领云集，来去匆匆。

几天以后，段祺瑞身体忽然康复了，然而脸色很不好，脾气特别暴躁。保定各学堂的教官和学生个个都提心吊胆，惟恐被段大人杀一儆百。段祺瑞脾气变糟了，是因为心里焦急万分，载沣上台，就意味着袁世凯失势，弄不好，袁世凯有杀身之祸。

这时，袁世凯在京城里的确如临深渊，如履薄冰，稍有不慎，惟恐有灭门之祸。据说载沣曾有光绪的衣带诏，早有除去袁世凯之意，又说隆裕太后也要给丈夫光绪报仇。一时间，袁府门庭冷落，一片萧瑟。

果然，载沣动手了。隆裕太后召见庆王奕劻时，扬言要杀袁世凯。奕劻自然护着袁世凯，说此事应召大臣商议。张之洞回复说，主上年幼，社稷动荡，此时杀戮重臣，只怕有变。隆裕和载沣优柔寡断，患得患失。就在这时，陆军部呈上紧急报告，北洋陆军各学堂和北洋部分军官不经批准，准备擅自举行冬季演练，隆裕和载沣闻之大惊。正在忐忑不安之际，保定传来急报，兵变骤生，变兵放火抢劫，段祺瑞正率部弹压。

这其实都是段祺瑞一手操纵的。早在北京见袁克定之后，段祺瑞就与冯国璋偷偷会晤，两人都觉得北洋军必须搞出一点动作，让朝廷感到它的分量。

回到保定后，他又召集亲信和幕僚反复商议，最后决定真真假假地搞一次冬季操练。所谓真，就是要出风声，使陆军部认为北洋军已经行动起来，所谓假，就是这一切不过是虚张声势，实际上按兵不动。这样，一方面，会使王公亲贵感到北洋军的压力，从而对袁世凯不敢有太大的动作；另一方面陆军部真正追查的话，也抓不住北洋军的辫子。

会操是有意安排，无意成真，而兵变是无意发生，有意成真了。事情起因很小，北洋第六镇第十一协有几个士兵由于聚赌引起争执，各不相让，最后卷入的人越来越多，引起了火并。

第十一标协统是李纯，号秀山，是袁世凯一手提拔起来的小站嫡系，也是段祺瑞的老部下，事件发生后，他立即打电话到督办公署向段祺瑞报告经过，并表示马上处置。

段祺瑞也并没有把这当回事，他刚想放下电话，却突然意识到，这不正是一个好机会吗？他立即对李纯说道：“你那边发生兵变了？”李纯一时间莫名其妙，“兵变？不是，是几个弟兄……”

李纯没把话说完，话筒里却传来段祺瑞命令式的话语：“不，是兵变！李纯，你听着是兵变！”

李纯还没有弄懂段祺瑞的意思，些许大的小事，何必弄得如此张扬，说成兵变，不是给自己找事吗？

“你懂吗？是兵变！你那里发生了兵变！我命令你火速率部弹压。”

李纯这才有些开窍了，“我明白了，立即率部镇压！”

放下电话，段祺瑞立即集合队伍。一时间，保定城内枪声大作。段祺瑞还向北京发报，报告保定发生大规模兵变，自己正率部进行弹压。其实，他却如释重负，在督办公署里和幕僚下围棋，心情异常愉快。

听到兵变，隆裕和载沣手足无措，袁世凯的处境转危为安。1909年1月2日，清政府以袁世凯“患足疾，步履维艰，难胜职任”为由，罢免袁世凯，让他回河南彰德老家养疴。

袁世凯全家离京时，情景十分落魄，铁路局不给他发专车，平时趋炎附势之徒全部悄然无踪。更让袁世凯不安的是，他生怕朝廷改变主意，在半路要他的性命。车到了保定，随从向袁世凯通报段祺瑞在车下等候拜谒。

“快让他上来。”

见到段祺瑞，袁世凯拉住他的手，感激地说：“这次全亏你，这次全亏你！”段祺瑞也动了感情：“祺瑞不才，忠义二字未敢稍有妄动，今后袁大人只要用得着我，只要言一声，祺瑞赴汤蹈火，在所不辞。”

为了表示感谢，袁世凯决定把自己花了30万元买下的府学胡同赠给段祺瑞，说：“我今后不会再来北京了，这座房子就留给你用吧。”

火车汽笛长鸣，两人依依惜别。为了保护袁世凯的安全，段祺瑞让自己的卫队随车护送，以防不测。