湘军是曾国藩一手炮制的，它与清政府的其他军队完全不同。清政府的八旗兵和绿营兵皆由政府编练。遇到战事，清廷便调遣将领，统兵出征，事毕，军权缴回。湘军则不然，其士兵皆由各哨官亲自选募，哨官则由营官亲自选募，而营官都是曾国藩的亲朋好友、同学、同乡、门生等。由此可见，这支湘军实际上是“兵为将有”，从士兵到营官所有的人都绝对服从于曾国藩一人。这样一支具有浓烈的封建个人隶属关系的军队，包括清政府在内的任何别的团体或个人要调遣它，是相当困难，甚至是不可能的!
　　湘军成立后，首先把攻击的矛头指向太平军。在曾国藩的指挥下，湘军依仗洋枪洋炮攻占了太平天国的部分地区。为了尽快将太平天国的起义镇压下去，在清朝正规军无能为力的情况下，清廷于1861年11月任命曾国藩统帅江苏、安徽、江西、浙江四省的军务，这四个省的巡抚(相当于省长)、提督(相当于省军区司令)以下的文武官员，皆归曾国藩节制。自从有清以来，汉族人获得的官僚权力，最多是辖制两三个省，因此曾国藩是有清以来汉族官僚获得的最大权力。
　　对此，曾国藩并没有洋洋自得，也不敢过于高兴。他头脑非常清醒，时时怀着戒惧之心，居安思危，审时韬晦。
　　后来，太平天国起义被镇压下去之后，曾国藩因为作战有功，被封为毅勇侯，世袭罔替。这对曾国藩来说，真可谓功成名就。但是，富有心计的曾国藩此时并未感到春风得意，飘飘然。相反，他却感到十分惶恐，更加谨慎。他在这个时候想的更多的不是如何欣赏自己的成绩和名利，而是担心功高招忌，恐遭狡兔死、走狗烹的厄运。他想起了在中国历史上曾有许多身居权要的重臣，因为不懂得功成身退而身败名裂。
　　他写信给其弟曾国荃，嘱劝其将来遇有机缘，尽快抽身引退，方可“善始善终，免蹈大戾”。曾国藩叫他弟弟认真回忆一下湘军攻陷天京后是如何渡过一次次政治危机的。湘军进了天京城后，大肆洗劫，城内金银财宝，其弟曾国荃抢的最多。左宗棠等人据此曾上奏弹劾曾国藩兄弟吞没财宝罪，清廷本想追查，但曾国藩很知趣，进城后，怕功高震主，树大招风，急办了三件事：一是盖贡院，当年就举行分试，提拔江南人士；二是建造南京旗兵营房，请北京的闲散旗兵南来驻防，并发给全饷；三是裁撤湘军4万人，以示自己并不是在谋取权势。这三件事一办，立即缓和了多方面矛盾，原来准备弹劾他的人都不上奏弹劾了，清廷也只好不再追究。
　　他又上折给清廷，说湘军成立和打仗的时间很长了，难免沾染上旧军队的恶习，且无昔日之生气，奏请将自己一手编练的湘军裁汰遣散。曾国藩想以此来向皇帝和朝廷表示：我曾某人无意拥军，不是个谋私利的野心家，是位忠于清廷的卫士。曾国藩的考虑是很周到的，他在奏折中虽然请求遣散湘军，但对他个人的去留问题却是只字不提。因为他知道，如果自己在奏折中说要求留在朝廷效力，必将有贪权恋栈之疑；如果在奏折中明确请求解职而回归故里，那么会产生多方面的猜疑，既有可能给清廷以他不愿继续为朝廷效力尽忠的印象，同时也有可能被许多湘军将领奉为领袖而招致清廷猜忌。
　　其实，太平天国被镇压下去之后，清廷就准备解决曾国藩的问题。因为他拥有朝廷不能调动的那么强大的一支军队，清廷是一个潜在危险。清廷的大臣们是不会放过这个问题的。如果完全按照清廷的办法去解决，不仅湘军保不住，曾国藩的地位肯定也保不住。
　　正在朝廷捉摸如何解决这个问题时，曾国藩的主动请求，正中统治者们的下怀，于是下令遣散了大部分湘军。由于这个问题是曾国藩主动提出来的，因此在对待曾国藩个人时，仍然委任他为清政府的两江总督之职。这其实也正是曾国藩自己要达到的目的。