1884年，25岁的冯国璋只身来到大沽口淮军直字营，通过在该营任文 书的族叔介绍，入伍当兵。因冯具有一定文化程度，经常帮助士兵书写家信或帮伙房记账，人缘不错，亦取得了该营统领刘祺的信赖。第二年，经刘保荐，冯国璋进入天津武备学堂，习步兵科。该学堂是直隶总督兼北洋大臣李鸿章为培养淮军中下级军事人才于1885年创办的。聘有德国军事教官，所设课程有兵法、地利、军器、炮台、算法、测绘，并操习炮队，步队、马队、工队及分合阵法，另外还兼学经史。冯国璋是该学堂第一期学员。在学习期间，他曾回原籍参加科举考试，当时特设数学附生额，因他擅长算术，考中秀才。后返回天津武备学堂继续学习军事。冯国璋学习刻苦，精通枪炮阵式，熟习营垒作业，各科成绩优秀，曾得到该学堂总办荫昌和德国教官的赏识。1890年毕业，被留校任教。

甲午战争

　　当时冯国璋已届而立之年，他不安于现状，想大立军功，出人头地，于是在1893年进聂士成军中效力。在中日甲午战争前夕，冯曾随聂士成赴东北和朝鲜等地考察和测绘地形，为时半年，跋涉数千里，餐风宿露，历尽艰险。所达之处，对山川要塞均用新法绘图说明，地形地物，了如指掌。所搜集的资料以聂士成之名编成《东游纪程》一书，由冯国璋任注说编辑，及至第二年聂士成率部在朝鲜和东北等地抗击日军时，这部著作发挥了极大的指导作用。故此，冯国璋得到了聂士成的垂青，被任命为该军军械局督办。

赴日考察

　　甲午战争后，冯国璋得聂士成保荐，以清朝驻日公使裕庚随员身份赴日。冯国璋在日本期间，为考察日本军事，结交了日本军界人士福岛安正、青木宣纯等人，并博览大批近代军事著作，取得了大量有关军事教练的资料，不舍昼夜，抄录和整理了几大本有关军事训练和近代军事科学发展的“兵书”，冯亦因此大长才干。

辅佐袁世凯

　　 1896年冯国璋回国后，将精心整理好的笔记资料呈送聂士成，聂又转呈袁世凯。当时，袁世凯正在积极筹办小站练兵事宜，急需军事教学人才，见到冯所整理的军事资料如获“鸿宝”，遂招冯国璋入小站辅佐编练新军。与冯国璋同时进小站的还有他在武备学堂时的同学王士珍和段祺瑞等人。冯国璋在教学中结合实际，深入浅出，深受学兵的拥护和爱戴。未几，冯国璋即被任命为督操营务处帮办兼步兵学堂监督。不久，又升为督操营务处总办。冯国璋鉴于新建陆军初创，在训练工作上应有所遵循，经过精心筹划，与王士珍、段祺瑞等人合力编成《训练操法详晰图说》22册，成为随营学堂的标准教科书，也是清朝末年我国军事学校和编练新军的主要教材。由于冯国璋等人对袁世凯的赤心辅佐，使小站练兵的声誉大振，冯国璋也逐步投向袁世凯的怀抱。

镇压义和团

　　袁世凯出卖光绪和参与“戊戌变法”的维新派，深得那拉氏宠信。1899年3月，新建陆军改称“武卫右军”。不久，袁世凯率军赴山东，被派署理山东巡抚，镇压义和团运动。冯国璋以督操营务处总办身份，将1万多人的山东勇营逐步改编为武卫右军先锋队，并曾一度率队在直隶与山东交界的德州一带，围追堵截义和团。1900年冯国璋参预镇压义和团运动有“功”，经袁世凯奏保，升为补用知府。不久被调至济南主管武卫右军和山东全省军队督操事宜。

北洋三杰

　　袁世凯为了在德国人面前出风头，决定举行秋操，命冯国璋、王士珍、段祺瑞昼夜加紧操练军队。1900年秋季，袁世凯邀请德国驻胶州湾总督一行抵济南观操。总督在袁世凯等人的陪同下登上观操台，只见军旗一色鲜明，队伍整肃精壮，军威凛然。时冯国璋发出洪亮的口令，队伍“一举足则万足齐发，一举枪则万枪同声，行若奔涛，立如直木”。总督当面称赞冯国璋、王士珍、段祺瑞为“北洋三杰”。

训练军队

　　1901年，清廷擢升袁世凯为直隶总督兼北洋大臣，冯国璋亦随之赴任。袁世凯野心很大．到达直隶后，便开始大规模地扩充北洋军。所谓北洋军是因直隶总督兼北洋大臣李鸿章、袁世凯编练新军而得名。袁世凯首先在保定设立编练北洋常备军的专门机构－－军政司，该司分兵备、参谋、教练三处，冯国璋出任教练处总办。冯国璋竭力修明操法，制订章程和编练计划，从而把新旧军队的训练统一起来。使编练新军一时颇著成效。未几，清政府派冯国璋与满族官员铁良、凤山赴日本考察军事。归国后，冯国璋出任清政府练兵处军学司正使，同时督办北洋各武备学堂，兼任北洋速成武备学堂和将弁学堂督办，因此北洋军阀集团中不少军官都是他的门生、故旧，为他后来充当直系军阀首领打下了基础。 　　 1906年，冯国璋署理正黄旗蒙古副都统，兼任陆军贵胄学堂总办。该学堂是清廷主要为培养满蒙高级军事人才而设立的，其成员是王公世爵、四品以上的宗室以及现任二品以上满汉文武大员子弟。该学堂还附设王公讲习所，在固定时间里专召亲王们去听冯讲课。冯国璋利用此机会结识了不少满蒙贵族，并赢得了清王朝的信任。于是，1907年冯国璋升任陆军部军咨处正使。1908年又升任清西陵梁各庄值班大臣。 　　1908年，光绪、那拉氏相继去世，光绪之弟载沣辅佐其子溥仪登极执政。载沣为了集中权力并替其兄光绪帝报仇，便把袁世凯开缺，赶回河南彰德。冯国璋怕受株连，便借口“值西陵与祭，坠马受伤”，和原配吴夫人病丧、母孙太夫人逝世为由，请辞回籍，但未得到批准。清廷仍委派他负责办理日常军务。冯国璋对袁世凯感恩图报，仍暗通音信，表示忠诚，并竭力为袁世凯东山再起创造条件。

辛亥革命

　　1911年(辛亥年)8月，清政府为了震慑革命人民反清斗争力量，决定在直隶永平府(今芦龙)举行秋操，冯国璋被任命为东路总统官。10月l0日，武昌新军爆发了起义，迅即占领武汉三镇。清政府急忙派陆军大臣荫昌率两镇北洋军赴湖北镇压革命，同时又任命冯国璋为第二军军统，随后增援南下。

镇压革命军

　　冯国璋在率军南下路上，唯袁世凯的密令是听，根本不理会荫昌的指挥。当冯国璋率军途经彰德时，只身去洹上村向袁世凯请示机宜，袁世凯授意冯“慢慢走，等等看”六字秘诀，并对冯说：“非筹备周妥，计出万全，断难督师进攻。”清政府迫于无奈，只得请袁世凯出山。袁世凯得势后，马上奏请由冯国璋接替荫昌第一军军统职务。冯国璋即按照袁的指示，调兵遣将，作好进攻准备。当清廷被迫授袁世凯军政全权以后，袁才命令冯国璋攻打汉口和汉阳起义新军。于是冯命令部将李纯、王占元和陈光远，指挥三协北洋军轮番猛攻。起义新军面对北洋军的猛烈攻势，化整为零，躲在汉口街道两边的建筑物内狙击北洋军的进攻。冯国璋见起义新军拼死抵抗，难于长驱直入，便决定放火烧毁街道两旁的商店和民房，使起义军无法存身。11月1日，冯借风势命令士兵放火，烈火由北而南，由东而西，一时间整个汉口便成了火海，三天三夜未熄，使方圆30里的繁华商埠倾时成为一片焦土，商民损失不可计算。攻陷汉口后，11月27日冯国璋又指挥北洋军攻占了汉阳。此一役，冯国璋被清廷封为二等男爵。正当长江一鼓可渡、武昌垂手可得之时，袁世凯为了借用革命力量迫使清帝退位交权，密令冯国璋“按兵不动”。冯一时摸不着袁世凯的意图，并对袁产生怀疑，于是亲自赴京托人向隆裕太后启奏，请求拨给饷银400万两，可独力平定“叛乱”。太后表示，400万两饷银一时难以筹划，但可以先拨发3个月的饷银，并准备临朝时召见冯国璋。不料袁世凯抢先一步见了太后，使冯国璋的如意算盘成为泡影，甚至还差一点被袁世凯干掉。不久，段棋瑞迅速抵达汉口，接替冯国璋指挥北洋军的职务。

禁卫军总统

　　 12月15日，袁世凯命令冯国璋离汉赴京，任禁卫军总统，兼察哈尔都统。禁卫军是1908年组建的一支保卫清王朝的武装，共一师二旅，计1．2万人。除步兵第三标是汉人外，其余各部官兵全系满蒙人。冯国璋之所以能以汉人统帅禁卫军，是因为他以前曾为陆军贵胄学堂总办，且近在汉阳之役又被封二等男爵，再加上1912年1月1日孙中山就任中华民国临时大总统后，袁世凯曾指使冯国璋等15名北洋将领发表了“誓死拥护君主立宪，反对共和政体”的通电，因此，王公贵族都认为他效忠清室，予以信赖。冯国璋被清廷任命禁卫军总统，从而完全掌握了京畿防务大权。 　　袁世凯逼迫清帝退位，遭到禁卫军官兵的反对，以致议和条件迟迟不能发表。这时，冯国璋决心助袁一臂之力，亲赴禁卫军总部召集全体官兵，高声宣布大清皇帝辞位后之优待条件，对于禁卫军额数俸饷亦仍维持不变，声言非此不能保全皇室。冯并以身家性命担保，尊号仍存不废，让权不让位，两宫保全及禁卫军待遇皆担保到底，无论个人调任何职，必仍以禁卫军自随。于是一场企图阻碍清帝退位的禁卫军风波被平息下来，冯国璋在关键时刻为袁世凯篡权立下了汗马功劳。 　　1912年9月，冯国璋出任直隶省都督兼民政长。1914年晋升为陆军上将。因此成为袁世凯的左膀右臂。