东晋面对大军压境，下达诏令，任命尚书仆射谢石为征虏将军、征讨大都督，任命徐、兖二州刺史谢玄为前锋都督，与辅国将军谢琰西中郎将桓伊等人，统帅八万兵众抵抗前秦。

并让龙骧将军胡彬带领五千水军援助寿阳。

东晋一方共分三路兵马北上迎击前秦军。

十月，前秦阳平公苻融等攻打寿阳。

十八日，攻克寿阳，擒获平虏将军徐元喜等人。

慕容垂攻下了郧城。

苻融进军攻打胡彬退守的硖石。

前秦卫将军梁成等率领五万兵众驻扎在洛涧，沿淮河布防以遏制东面的部队。

苻坚自认为能速战速决，并派已是前秦尚书的朱序前去劝降谢石，朱序却私下提示谢石宜先发制人，击溃前秦的先锋部队。

他说：“秦军虽有百万之众，但还在进军中，如果兵力集中起来，晋军将难以抵御。现在情况不同，应趁秦军没能全部抵达的时机，迅速发动进攻，只要能击败其前锋部队，挫其锐气，就能击破秦百万大军。”

谢石起初认为秦军兵强大，打算坚守不战，待敌疲惫再伺机反攻。

听了朱序的话后，认为很有道理，便改变了作战方针，决定转守为攻，主动出击。

十一月，谢玄派广陵相刘牢之率领五千精兵开赴洛涧，揭开了淝水大战的序幕。

秦将梁成扼守山涧部署兵阵迎击。

刘牢之取得洛涧大捷，斩杀了梁成、梁云以及弋阳太守王咏，秦军折损十多名大将及数万大军。

刘牢之又派部队阻绝了淮河渡口，歼灭前秦军队一万五千人，抓获了前秦扬州刺史王显等人。

晋军西行，与秦军对峙淝水。

十二月有人向苻坚建议后退决战。

诸秦将认为阻敌淝水畔比较安全，但苻坚认为半渡而击可主动对决。

当秦军后移时，晋军渡水突击。

朱序、张天锡等人在秦军阵后大叫：“前线的秦军败了！苻坚死了！”

秦军听后阵脚大乱，随后晋军全力出击，大败秦军。

谢玄、谢琰和桓伊率领晋军七万，战胜了苻坚和苻融所统率的前秦十五万大军，并阵斩苻融。

淝水之战，前秦军被歼和逃散的共有70多万。

唯有鲜卑慕容垂部的3万人马尚完整无损。

苻坚他实在是太高估临时拼凑起来的部队了。

他满心欢喜地让先锋回退时，后军士兵完全摸不着头脑。

加上前秦军中混入的东晋间谍，在后方高声大喊："苻坚战死啦！秦军败啦！"

这一下，更加使得军心大乱，士卒们丢盔弃甲、四散逃走。

当苻坚发现自己后院起火之时，已经太晚了，大军已经失去控制。