Ο αυτοκράτορας Ιουστινιανός Α΄, γνωστός για τα μεγάλα αρχιτεκτονικά του έργα όπως η Αγία Σοφία, ανέθεσε την κατασκευή αυτής της εκκλησίας μεταξύ 527 και 536 μ.Χ. Αρχικά ονομαζόταν Εκκλησία των Αγίων Σεργίου και Βάκχου και τιμούσε δύο Χριστιανούς μάρτυρες. Ο ιδιαίτερος σχεδιασμός της εκκλησίας, με κεντρικό τρούλο, ήταν πρωτοποριακός για την εποχή και πιθανόν να επηρέασε την κατασκευή της μεγαλύτερης Αγίας Σοφίας.

Μετά την άλωση της Κωνσταντινούπολης από τους Οθωμανούς το 1453, η εκκλησία μετατράπηκε σε τζαμί, γνωστό ως Kucuk Ayasofya Camii ή Τζαμί της Μικρής Αγίας Σοφίας. Προστέθηκαν ένας μιναρές και μια θρησκευτική σχολή. Παρά τις δυσκολίες, όπως οι σεισμοί και η υγρασία, και το ότι ακόμη και αποτέλεσε καταφύγιο σε περιόδους πολέμων, το τζαμί παραμένει ένας σημαντικός ιστορικός τόπος χάρη στις εκτεταμένες εργασίες αποκατάστασης.
Από έξω, ο σχεδιασμός του Τζαμιού της Μικρής Αγίας Σοφίας είναι απλός αλλά κομψός, αντανακλώντας τις αρχιτεκτονικές τεχνικές της εποχής του. Το κτίσμα είναι οκταγωνικό, με έναν μεγαλοπρεπή τρούλο που στηρίζεται από οκτώ κίονες. Καθώς πλησιάζετε, μια γοητευτική αυλή με μικρό κήπο και σιντριβάνι σας καλωσορίζει, δημιουργώντας έναν ήρεμο χώρο για παύση και εκτίμηση του περιβάλλοντος.

Μέσα, η μεγαλοπρέπεια του τζαμιού ξεδιπλώνεται. Μια στοά δύο επιπέδων κατά μήκος της βόρειας, δυτικής και νότιας πλευράς είναι στολισμένη με κίονες από βερντέ αντικά και κόκκινο μαρμάρο Synnadic. Αυτοί οι κίονες, που αναδεικνύουν τη δεξιοτεχνία αιώνων του παρελθόντος, στηρίζουν έναν τρούλο χωρισμένο σε δεκαέξι τμήματα. Μια επιγραφή σε δώδεκα ελληνικούς εξαμέτρους τιμά τον αυτοκράτορα Ιουστινιανό, τη σύζυγό του Θεοδώρα και τον Άγιο Σεργίο, προσδίδοντας ιστορική βαρύτητα στο εσωτερικό.
Η Μικρή Αγία Σοφία, αν και δεν είναι τόσο μυθική όσο το μεγαλύτερο αντίστοιχό της, έχει κι αυτή το μερίδιο της από συναρπαστικές αφηγήσεις. Ένας θρύλος μιλά για τον αυτοκράτορα Ιουστινιανό, ο οποίος πριν γίνει αυτοκράτορας κατηγορήθηκε για προδοσία. Οι Άγιοι Σεργίος και Βάκχος εμφανίστηκαν στον αυτοκράτορα Ιουστίνο Α΄ σε όνειρο, υποστηρίζοντας την αθωότητα του Ιουστινιανού. Ευγνώμων για την παρέμβασή τους, ο Ιουστινιανός υποσχέθηκε να χτίσει μια εκκλησία προς τιμήν τους, οδηγώντας στη δημιουργία της Μικρής Αγίας Σοφίας.

Μια άλλη ιστορία τονίζει τη σημασία της αρχιτεκτονικής του τζαμιού, υποδεικνύοντας ότι χρησίμευσε ως πεδίο δοκιμών για τεχνικές που τελειοποιήθηκαν στη μεγάλη Αγία Σοφία. Αν και δεν πρόκειται για κάτι υπερφυσικό, ο θρύλος αυτός υπογραμμίζει το καινοτόμο πνεύμα της βυζαντινής αρχιτεκτονικής.
Ψίθυροι για κρυμμένους θησαυρούς μέσα στα τείχη του τζαμιού επιμένουν, με την πεποίθηση ότι αποκρύφτηκαν κατά την Οθωμανική Κατάκτηση. Αν και η ύπαρξη τέτοιων θησαυρών παραμένει αβέβαιη, ο θρύλος προσθέτει μια αίσθηση μυστηρίου στον χώρο.