长沙城中的湘军将领们还在讨论水师进军方向的时候，湘潭之战已经打响了。清军方面的主将是湘军初期的第一悍将塔齐布。
湘军当中，猛将众多。其中最猛的，前期为塔齐布，后期为鲍超。塔齐布作战很有特色。每次开战，他喜欢背着一把火枪、两把腰刀，手里拿着长矛以及套马杆，单枪匹马冲入敌军阵中。一般不允许别人跟随，一定要跟随的，必须武功超群，否则会遭到他的鞭打。塔齐布就是这么一位很独、很猛的将领。
塔齐布虽然很猛，但没有谋略。每次开战之前，从不说怎么进兵，怎么接应，怎么埋伏，往往使得部下不知所措。开战之时，就知道单枪匹马向前冲。
塔齐布军中，有关谋略、管理方面的事情，都由另一名将领周凤山处理。周凤山的特点与塔齐布相反，懂谋划，但胆识不够。塔齐布、周凤山能力互补，确保了这支部队的战斗力。
塔齐布率军杀至湘潭郊外的高岭。太平军出城迎战。塔齐布手里拿着大旗，率先冲入太平军阵中。湘军士兵见主将如此勇猛，也纷纷向前冲去，奋勇杀敌。不一会儿，湘军就击斩了太平军九名将领。太平军溃败，逃往城中。塔齐布率军追至城下。
第二天，太平军出城寻找湘军决战。塔齐布、周凤山定下诱敌深入的计策，在一座山的左右两边设下伏兵，配备众多大炮，然后以少数兵力引诱太平军。
湘军的诱敌部队且战且退，将太平军引入山中。这时候，两边大炮齐轰，击杀太平军百余人。突然遭遇重创的太平军，队形很快就乱了。这时候，埋伏在两侧山上的湘军冲出，与太平军展开白刃战。
太平军自起事以来，很少遇到敢与他们近距离接战的清军。所以，当湘军冲下来与他们白刃相对的时候，他们都被吓倒了。不一会儿，太平军就败下阵来，往城内退去。
与此同时，前往湘潭的湘军水师五营部队也与太平军展开了大规模的厮杀。这五营，包括褚汝航、夏銮、杨载福、彭玉麟各自带的一营。
褚汝航、夏銮是这五营湘军的正、副首领，但这两人带出来的队伍绿营习气很浓，战斗力不行。要打胜仗，还是得靠杨载福、彭玉麟带出来的队伍。他们才是真正的精兵！在湘潭之战中发挥重要作用的，正是杨、彭的队伍。
看到湘江两岸太平军船只多达数千艘，有些湘军士兵有些害怕了。这时候，杨载福手下一个叫周清元的士兵站出来，高声喊道：“长毛抢来的民船不能作战。咱们放一把火就能把它们烧光，何必怯懦！”这个周清元，就是之前劝向荣合围临资口的那个周清元。
周清元在这里所说到的民船不能战，非常重要。太平军船只虽多，但都是征集来的民船。民船上没有办法安炮，因为民船的底板无法承受大炮发射时所产生的后坐力。没有大炮，就不能远距离袭击敌人。所以，这些民船在实战中毫无用处。事实上，太平军也只是用它们来运兵运粮而已。
湘军水师的战船则不一样。因为经过了特殊处理，湘军水师的战船底板能够承受后坐力，所以能够安炮，因而能远距离轰击敌人。并且，湘军水师的大炮都是洋炮，其威力是相当大的。所以，这些战船在实战中的价值非常大。
周清元驾舢板冲入太平军船只中。太平军并无攻击湘军的工具，只好拿船上装载的瓷碗袭击周清元。周清元一把抓住瓷碗，朝太平军中扔过去，正中一名太平军将领。太平军从来没有见过这么勇猛的对手，因而对湘军水师产生了畏惧情绪。
见太平军胆气已丧，杨载福、彭玉麟督率士兵驾驶舢板冲入太平军船只中，到处抛撒火球。在激战中，杨载福多次受伤，但仍奋勇向前，极大地鼓励了湘军的士气。
经过4月27日、28日两天的焚烧，太平军临时征集来的船只几乎全部被焚毁。太平军撤退至城南窑湾一带。至4月29日，太平军又征集来几百艘民船，准备运兵向上游撤退。
太平军的动向在湘军的掌控之中。4月30日凌晨，杨载福、彭玉麟率领湘军水师长驱直进，追击太平军船队。两军在湘潭下摄司遭遇。
湘军水师开炮轰击，太平军船只四散逃离。杨载福、彭玉麟见太平军已乱，督率士兵驾驶舢板冲入太平军船只中，到处放火。顷刻间，除了行动迅速及时逃离的少数船只外，太平军的其他船只全部被烧毁。
大火腾空而起的时候，太平军方面负责湘潭一战的将领林绍璋与数百太平军弃船登岸。5月1日黎明，这些人从湘潭西门乘梯子登城墙入城，却被湘军袭击。湘军夺下他们的梯子，乘势攻入城中。湘潭落入湘军之手。
林绍璋率领残部朝靖港方向逃去，沿途遭到王錱等部湘军袭击。最终到达靖港的太平军，仅仅剩下了四人。
湘潭之战是太平军自起兵以来的第一场大规模的惨败。日后，李秀成在总结太平天国历史时，将湘潭大败称之为“天国十误”之一，可见其重要性。
