An dieser Stelle stand schon im 11. Jahrhundert eine kleinere Festung. 1142 übergab der Graf von Tripolis die Anlage dem Ritterorden der Johanniter, die sie in den folgenden 130 Jahren zu einer der stärksten Burgen ihrer Zeit ausbauten.
Die Burg besteht aus zwei Mauerringen: Eine äußere Mauer mit runden Türmen umschließt die höher gelegene innere Burg. Zwischen beiden liegen ein Graben und ein Wasserbecken. Der lange, gewundene Aufgang war so angelegt, dass Angreifer kaum vorankamen.
1271 nahm Sultan Baibars die Burg ein und ließ sie weiter verstärken. Seit 2006 ist Krak des Chevaliers gemeinsam mit der Burg Saladins UNESCO-Welterbe. Der Reisende T. E. Lawrence nannte sie „die vielleicht besterhaltene und bewundernswerteste Burg der Welt“.