Die Kleine Hagia Sophia (Küçük Aya Sofya Camii) wurde von Kaiser Justinian in Gedenken an die beiden römischen Legionäre Sergios und Bacchus zwischen 527-36 errichtet und war architektonisches Vorbild der großen Schwester Hagia Sophia, einst mächtigste Kirche des frühen Christentums sowie des Byzantinischen Reichs.
Der bemerkenswerte geometrische Bauriss der Kleinen Hagia Sophia besteht aus einem zentralen achteckigen Kuppelraum, das in ein unregelmäßiges Viereck mit inneren Ecknischen eingefügt ist. Mit großer Wahrscheinlichkeit war auch sie einst mit herrlichen Goldmosaiken ausgeschmückt. Ihre grünen und roten Marmorsäulen im Innenraum stehen noch immer original aus der Zeit und einige der weißen Kapitelle tragen die Monogramme von Justinian und seiner Gemahlin Theodora.
Sergios und Bacchus waren syrischer Herkunft und hatten das Christentum angenommen, fielen aber im Glaubenskampf. Legenden zufolge wurde die Kirche aufgrund der abgetragenen Dankesschuld des Kaisers bei den beiden Heiligen errichtet. Während der Herrscherzeit Kaiser Anastasius I. wurden Justinian und sein Onkel Justinus wegen der Beteiligung am Aufstand gegen dessen Herrschaft zum Tode verurteilt. In der Nacht vor der Hinrichtung erschienen dem Kaiser Anastasius Sergius und Bacchus im Traum und legten Zeugnis ab. Von diesem Traum sehr beeinflusst erlässt daraufhin Anastasius das Todesurteil und vergibt Justinian und Justinus.
Auch nach der Eroberung Konstantinopels blieb die Kleine Hagia Sophia erstmal als Kirche bestehen. Unter der Herrschaft von Sultan Bayezid II. wurde sie vom Obersten der weißen Eunuchen, Hüseyin Ağa, 1504 in eine Moschee umgewandelt. Zu dieser Zeit wurde das Areal um eine Portikus und eine Koranschule (Medrese) erweitert. In den folgenden Jahrhunderten fügte man einen Vorhof mit einem Reinigungsbrunnen und einem Minarett hinzu, im Innenraum eine Gebetsnische (Mihrab) und eine Kanzel (Minbar). Spätere Erdbeben verursachten bauliche Verluste, die in Zeiten verschiedener Sultane wiederaufgebaut wurden.
Nach umfangreichen Restaurierungsarbeiten zwischen 2002 bis 2006 wurde die Kleine Hagia Sophia der Öffentlichkeit als Moschee wieder zugänglich gemacht. Neben einem kleinen Garten und einiger kleiner Geschäfte aus osmanischer Zeit befinden sich im Norden des Bauwerks ein kleiner muslimischer Friedhof sowie das ehemalige Baptisterium aus der byzantinischen Zeit.