二十二日，朱元璋亲自率领水师出战。但陈舰巨大，朱军舰小不能仰攻，接连受挫。这时朱元璋及时采纳了部将郭兴建议，决定改用火攻破敌。黄昏时分湖面上吹起东北风，朱元璋选择勇敢士兵驾驶7艘渔船，船上装满火药柴薪，迫近敌舰，顺风放火，风急火烈，迅速蔓延。一时烈焰飞腾，湖水尽赤，转瞬之间烧毁陈军数百艘巨舰，陈军死伤过半，陈友谅的两个兄弟及大将陈普略均被烧死。朱元璋挥军乘势起猛攻，又毙敌2000余人。二十三日，双方又有交锋，陈友谅瞅准朱元璋旗舰展开猛攻。朱元璋刚刚移往他舰，原舰便被陈军击碎。二十四日，俞通海等人率领6舰突入陈军舰队，勇敢驰骋，势如游龙，如入无人之境。朱军士气大振，起猛烈攻击。最后，陈军不支败退，遗弃的旗鼓器仗浮蔽湖面。陈友谅只得收拢残部，转为防御，不敢再战。

当天晚上，朱元璋乘胜进扼左蠡（今江西都昌西北），控制江水上游，陈友谅亦退保诸矶（今江西星子南）。两军相持3天，陈军屡战屡败，形势渐趋不利。陈友谅两员大将见大势已去，于是投降了朱元璋，陈军内部军心动摇，力量更加削弱。陈友谅又气又恼，下令把抓到的俘虏全部杀掉以泄愤。

朱元璋却反其道而行之，将俘虏全部送还，并悼死医伤，瓦解陈军士气，从而大得人心。陈军内部分崩离析，士气更加低落。朱元璋判断陈军可能突围退入长江，乃移军湖口，在长江南北两岸设置木栅，置大舟火筏于江中，又派兵夺取蕲州、兴国，控制长江上游，堵敌归路，待机歼敌。

经过1个多月的对峙，陈友谅被困湖中，军粮殆尽，计穷力竭。于是孤注一掷，冒死突围，八月二十六日，由南湖嘴突围，企图进入长江退回武昌。行至湖口时，朱军以舟师、火筏四面猛攻，陈军无法前进，复走泾江，又遭伏兵阻击，左冲右突，打不开生路。陈友谅中箭而死，军队溃败，5万余人投降。至正二十四年（1364年）二月，朱元璋攻下武昌，陈友谅儿子陈理投降，朱元璋的势力扩大到原陈友谅的所属地区。

此次水战，从七月二十日开始到八月二十六日结束，前后历时37天，其时间之长、规模之大，投入兵力、舰只之多、战斗之激烈都是空前的。

陈友谅的失败，一个重要的原因是战略指挥上的失误。本来，朱元璋率主力北救安丰，造成应天空虚。如果陈友谅不是先攻洪都，而是以一部兵力对洪都进行牵制，主力顺流东下直攻应天，那么朱元璋将处于陈张夹攻、进退失据的不利处境。但陈友谅却把矛头指向小而坚的洪都城，致使数十万大军局促处于狭小地域，难以展开，且又没有派兵扼守江湖要津，置后路于不顾。屯兵坚城之下，苦战3月，师老兵疲，士气低落。

朱元璋之所以能以少胜多，以弱胜强，以小胜大，正是巧妙地利用了陈友谅错误的结果。面对舰只庞大、装备精良的陈军，朱元璋冷静、敏捷地捕捉敌方的弱点和失误，化不利为有利，进入湖口之初，就在武阳水与鄱阳湖、长江与鄱阳湖各隘口，重重派兵扼阻，限制其兵力展开，阻止其挥多兵大舰的优势，形成了对陈友谅的战略包围，因此从开始便掌握了战略主动权。然后他又集中大部战船和兵力逐次打击陈军，并善于利用风向、水流等自然条件，及时抢占有利攻击阵位，不失时机地实施火攻，充分挥火器的作用，终于以少胜多、以小击大、以弱胜强，创造了我国水战海战史上的著名战例。