一直到41岁，曾国藩的人生走的都是读书入仕的老路。28岁中进士，在京为官十多年，成为军机大臣穆彰阿的得意门生，以至官居二品。

但曾国藩坚持每日苦读，常被同僚所称赞。他说读书要“旧雨三年精化碧，孤灯五夜眼常青”。曾国藩也研究书法，他说写字要有阳刚之美，“着力而取险劲之势”；或阴柔之美，“着力而得自然之味”。曾国藩认为写文章，要在气势上下功夫，“清韵不匮，声调铿锵，乃文章第一妙境”。

如果没有太平天国运动，曾国藩可以一辈子读书教子，修身养性，每日早起、静坐、读史、养气。但是1852年，曾国藩因为母丧，从礼部侍郎任上回到湖南守孝。这个时期，太平天国起义席卷了半个中国。清政府从全国各地调集大量八旗、绿营等国家正规军来对付太平军，都显得不堪一击。为此，清政府屡次颁发命令，奖励团练，发展各地的地主武装。曾国藩平静的心剧烈震荡起来，决心开始书生治军的尝试，他在湖南一带，依靠师徒、亲戚、好友等人际关系，建立了一支差不多完全听命于他的地方团练，称为湘军。

湘军的第一仗在距长沙六十公里的靖港，被石达开打得落花流水，曾国藩苦心经营的五个营全军覆没，湖南官吏准备联名弹劾他，请皇帝解散湘军。曾国藩仓皇逃到长沙水陆洲湘军大本营，倍感耻辱，心情沮丧，甚至两次投江自杀。幸有另外一个湖南人左宗棠及时赶来，将曾国藩痛骂一顿，将他从沉沦中唤醒。他又开始办“大团”、练新军，“审案局”、查“土匪”。

曾国藩面临的麻烦除了练兵之外，还有一个职责不清的问题。他这个团练大臣的身份很模糊。湖南地方既有巡抚、布政使、按察使等官员管理行政和刑事，又有提督负责军事。曾国藩设局审案，动辄杀人，难免与地方官吏引起冲突；他又将绿营地方军与湘勇合训，酷暑不停，绿营的“老爷兵”自然难耐其苦。矛盾日渐积累，终于导致绿营和湘军的正面冲突不断，直至绿营兵包围曾公馆闹事，弄到难以收场的地步。

曾国藩决心离开长沙，以“就近剿匪”的名义，移军衡州（衡阳）专事练兵，扩招勇丁，统一编制，又花大力气筹建了湘军水师。半年后，湘军北上作战时，水师已有大小战船360余号，水陆官兵及丁夫等共计17000余人。“军容严整，令长沙诸公耳目一新。”

曾国藩治军认为，兵不在多而在于精。他的军事思想中最体现湖南人性格特征的莫过于“扎硬寨，打死仗”。从湘军作战的实例来看，曾国藩在战场上根本谈不上神机妙算，甚至连稳操胜券都谈不上，但他却有扎硬寨、打死仗的战略定力。

湘军首战遭歼，9个月后，曾国藩更被翼王石达开攻破水营，100多艘战舰全被烧毁，就连曾国藩的座船都被抢走。1856年夏天，曾国藩被李秀成围困南昌，甚至做好了破城自杀的打算。

即使在接连遭遇挫败的打击下，曾国藩上奏咸丰皇帝时，却将“屡战屡败”修改成“屡败屡战”，希望咸丰给予湘军更多整军备战的机会。

支持曾国藩制胜的法宝就是这个屡败屡战的精神。这个倔强的精神一直支撑到他攻克太平天国都城天京的最后一刻。