Khalid ibn al-Walid était l'un des chefs militaires les plus connus des débuts de l'islam. Il est mort au 7e siècle et, selon la tradition, a été enterré à Homs. Un lieu de mémoire est apparu très tôt au-dessus de son tombeau.
La mosquée actuelle a été construite au début du 20e siècle dans le style ottoman. Avec ses coupoles aux reflets argentés, ses deux minarets élancés et ses façades en pierre claire et sombre, elle est l'emblème de la ville.
Pour beaucoup d'habitants de Homs, la mosquée est un lieu de prière et de mémoire, et pour les visiteurs un bon point de départ pour découvrir la ville.