Kaisar Justinianus I, terkenal dengan proyek-proyek arsitektur megahnya seperti Hagia Sophia, memerintahkan pembangunan gereja ini pada tahun 527 hingga 536 M. Awalnya bernama Gereja Santo Sergius dan Bacchus, gereja ini menghormati dua martir Kristen. Desain gereja yang unik, dengan kubah pusat, adalah terobosan pada masanya dan mungkin turut memengaruhi pembangunan Hagia Sophia yang lebih besar.

Setelah Utsmaniyah menaklukkan Konstantinopel pada tahun 1453, gereja ini diubah menjadi masjid, dikenal sebagai Kucuk Ayasofya Camii atau Masjid Hagia Sophia Kecil. Sebuah menara dan sekolah agama ditambahkan. Meski menghadapi tantangan seperti gempa bumi dan kelembapan, serta bahkan pernah berfungsi sebagai tempat berlindung selama peperangan, masjid ini tetap menjadi situs bersejarah yang penting berkat upaya restorasi yang ekstensif.
Dari luar, desain Masjid Little Hagia Sophia terlihat sederhana namun tetap elegan, mencerminkan teknik arsitektur pada zamannya. Bangunannya berbentuk oktagonal, dengan kubah megah yang ditopang oleh delapan pilar. Saat Anda mendekat, halaman dalam yang menawan dengan taman kecil dan air mancur menyambut, menciptakan ruang yang tenang untuk berhenti dan menikmati sekitarnya.

Di dalam, kemegahan masjid terungkap. Serambi dua tingkat di sepanjang sisi utara, barat, dan selatan dihiasi dengan kolom marmer verd antique dan merah Synnadic. Kolom-kolom ini, yang menunjukkan keterampilan pengerjaan dari berabad-abad silam, menopang sebuah kubah yang dipecah menjadi enam belas bagian. Sebuah prasasti dalam dua belas heksameter Yunani menghormati Kaisar Justinianus, istrinya Theodora, dan Saint Sergius, menambah nilai historis pada bagian dalam.
Little Hagia Sophia, meski tidak selegendaris versi yang lebih besar, memiliki kisah menariknya sendiri. Salah satu legenda menceritakan tentang Kaisar Justinianus yang, sebelum menjadi kaisar, dituduh melakukan pengkhianatan. Santo Sergius dan Bacchus muncul kepada Kaisar Justin I dalam sebuah mimpi, menyerukan agar Justinianus tidak bersalah. Berkat campur tangan mereka, Justinianus bersumpah untuk membangun sebuah gereja untuk menghormati keduanya, yang akhirnya mengarah pada terciptanya Little Hagia Sophia.

Kisah lainnya menyoroti pentingnya masjid dari sisi arsitektur, yang menunjukkan bahwa masjid ini menjadi tempat pengujian teknik-teknik yang disempurnakan dalam Hagia Sophia yang megah. Meski bukan legenda supernatural, kisah ini menegaskan semangat inovatif arsitektur Bizantium.
Bisik-bisik tentang harta karun tersembunyi di dalam dinding masjid terus berlanjut, diyakini telah disembunyikan selama Penaklukan Utsmaniyah. Meskipun keberadaan harta karun seperti itu masih belum pasti, legenda tersebut menambah rasa misteri pada situs ini.