朱序的建议，真是雪中送炭，非常及时和关键。原先，谢玄、谢石等人见秦军势大，打算坚守不出，待其疲惫后，再伺机反攻，现在听了朱序的话，认为很有道理，便改变作战部署，决定主动出击。
谢玄命勇将刘牢之，率五千精兵奇袭洛涧。当时，驻守洛涧的秦军有五万多人，他们没有想到晋军会来攻击，顿时陷入混乱，结果全军覆没。此役，前秦损失了十名将领和五万部队，锐气大减。
洛涧兵败的消息传来，苻坚大吃一惊。他听说晋军正向寿阳开来，便和弟弟苻融登上城头观看，只见晋军队伍整齐，训练有素，再看北面的八公山上，风吹过后，草木晃动，仿佛埋伏着千军万马。苻坚对苻融说：“晋军是一支强大的对手，你怎么说他们是弱旅呢？”后来，人们用草木皆兵形容疑神疑鬼。
不久，苻坚率领先期到达的军队，抵达淝水，就是现在安徽的寿县一带，沿岸排兵布阵。谢玄率晋军在河对岸相持。谢玄设下一计，派人对苻坚说：“你们远道而来，难道不想速战速决吗？请你们退后一点，腾出地方来，好让我军过河，与你们决战。”
苻坚的部下说：“我们应该凭借淝水，把晋军堵在河对岸，那对我们是有利的。”苻坚却说：“我们人多，晋军人少，不怕他们过河。再说，如果趁他们过河时出击，他们就只有挨打的份了。兵书上不是说，趁敌半渡而击之吗？”
苻坚没有想到，秦军刚刚遭受了洛涧之败，心有余悸，听到后撤的命令，纷纷争先恐后地后退，一下子乱了阵脚。忽然，朱序和他的一些亲信们齐声大喊：“秦军败了，赶快逃命吧！”
秦军不明底细，信以为真，顿时大乱，溃不成军。谢玄得此良机，亲率八千凶悍的北府兵，抢先渡河，奋勇追杀，其他几万晋军随后跟进。一时间，锣鼓齐鸣，杀声震天，秦军心惊胆战，争相逃命，自相践踏，死者无数。许多秦军士兵走投无路，跳入水中，多被淹死，尸体堵塞了淝水，使之断流。真是兵败如山倒，惨景不忍目睹。
苻融死在乱军之中，苻坚身中箭伤，差点丧命，他乘驾的云母车，以及服装、珍宝、军资全都丢光。苻坚带领残兵败将，不顾一切地向北狂逃，一路上听到风吹的声音和鹤的鸣叫，都以为是晋军在后面追赶，于是便有了“风声鹤唳”这个成语典故。
朱序为淝水之战立下特殊功劳，战后回归东晋，被任命为龙骧将军、琅邪内史，后升迁为豫州刺史。
淝水之战，前秦军队损失十之七八，元气大伤，而且黄河以南地区全部丢失。这不仅使苻坚统一天下的梦想化为泡影，更糟糕的是，已经统一的北方也分崩离析了。鲜卑、羌等部族，见苻坚失去了控制能力，纷纷举兵反叛，建立政权，北方重新陷入混乱之中。
公元385年，鲜卑军队围困长安。苻坚出逃到五将山，被羌族首领姚苌所杀，终年四十八岁。
淝水之战，使前秦迅速衰落，北方陷于混乱，东晋则度过了危险期，相对平稳。此时的东晋皇帝，是晋孝武帝，他又可以高枕无忧，安心吃喝玩乐了。但想不到乐极生悲，不久就命丧黄泉，而且是死于宫女之手。