虽然廉颇一心报国，忠心耿耿，但因为廉颇直来直去的的态度，赵王越来越不喜欢他。
公元前262年，长平之战爆发。一开始，赵国的主帅是廉颇。
当时，长平被秦军三面围攻，形势极其严峻。
廉颇坚守阵地，避而不战，遏制住了秦军的进攻。
本来廉颇的做法是没问题的，但由于他自认问心无愧，忽略了和赵王解释，导致赵王疑心重重。
而且，新上任的赵王是赵惠文王的儿子赵孝成王，对廉颇更加不了解。
在秦军的反间计下，赵孝成王连续几次催促廉颇出兵后，发现廉颇始终不搭理、不解释、不应对，遂动怒，撤掉了廉颇，换上了“纸上谈兵”的赵括。
结果，赵国四十万兵卒被白起活埋，从此一蹶不振。
长平之战后，廉颇曾经消失过一段时间。
一直到公元前251年，燕国攻打赵国时，77岁的廉颇再次披挂上阵，他采取孤军深入直取燕都的战术，长途奔袭二百五十多公里，最终以13万的兵力横扫燕国60万大军，俘虏了燕国丞相栗腹，逼得燕国割地求和。