Sarajevo est l'une des rares villes d'Europe où une mosquée, une église catholique, une église orthodoxe et une synagogue se trouvent dans le même quartier. Cette proximité lui vaut le surnom de Jérusalem de l'Europe.
Au recensement de 2013, la Bosnie-Herzégovine comptait 51,3 % de musulmans, 30,7 % d'orthodoxes et 15,2 % de catholiques. Les personnes sans religion représentaient environ 1 % des réponses. À Sarajevo, la part des musulmans est nettement plus élevée que la moyenne nationale, puisque 80,7 % des habitants de la ville se déclaraient bosniaques la même année.
Les musulmans de Bosnie relèvent de l'islam sunnite d'école hanafite. La Communauté islamique de Bosnie-Herzégovine administre les mosquées, les medersas et le personnel religieux. La mosquée Gazi Husrev-beg, achevée en 1531, est la principale mosquée du pays. Son ensemble comprend une medersa, une bibliothèque, un marché couvert et un hammam. Baščaršija et les quartiers anciens comptent de nombreuses petites mosquées de voisinage.
La cathédrale du Cœur-de-Jésus, construite entre 1884 et 1889, est le siège de l'archidiocèse catholique de Vrhbosna. Elle se trouve à quelques minutes de la vieille ville. La cathédrale orthodoxe serbe de la Nativité-de-la-Mère-de-Dieu a été élevée entre 1863 et 1868. La vieille église orthodoxe, établie en 1539, abrite un musée d'art religieux. Les communautés catholique et orthodoxe de la ville ont beaucoup diminué depuis la guerre.
Des familles séfarades venues de la péninsule Ibérique se sont installées à Sarajevo vers 1551 et ont constitué une communauté organisée dès 1565. Elle comptait environ 10 000 personnes en 1940. Il en reste quelques centaines dans tout le pays. La synagogue ashkénaze, bâtie en 1902, est le seul lieu de culte juif encore en service. Le vieux temple, élevé en 1581, accueille le musée juif.
L'appel à la prière se fait entendre cinq fois par jour dans le centre. La fréquentation des mosquées augmente le vendredi et pendant le ramadan. Les églises catholiques et orthodoxes tiennent leurs offices le dimanche. Les grands lieux de culte se visitent en dehors des heures de prière, avec une tenue couvrante.