Κατά τη διάρκεια της επιδρομής των Ερούλων το 267 στην Αθήνα τα περισσότερα από τα οικοδομήματα της Αρχαίας Αγοράς, όπως το Ωδείο και οι μεγάλες ελληνιστικές στοές, καταστράφηκαν πλήρως. Τα αρχιτεκτονικά μέλη των κτηρίων αυτών χρησιμοποιήθηκαν στην κατασκευή ενός οχυρωματικού περίβολου, του λεγόμενου υστερορωμαϊκού τείχους, που διέτρεχε την ανατολική πλευρά της Αγοράς και περιέκλειε το βόρειο τμήμα της πόλης. Στα τέλη του 4ου αιώνα ο Αλάριχος και οι Βησιγότθοι προξένησαν νέες μεγάλες ζημιές στην πόλη.
Κατά τον 5ο και 6ο αιώνα, ωστόσο, παρατηρείται νέα οικοδομική δραστηριότητα στο χώρο. Ανεγέρθηκαν μερικά μεγάλα συγκροτήματα, όπως το «Γυμνάσιο» στα νότια –ένα εκπαιδευτήριο με αίθουσες διδασκαλίας, βιβλιοθήκη, παλαίστρα και λουτρά– και άλλες μεγάλες οικίες στα βόρεια του Αρείου Πάγου (Οικία Γ), στην περιοχή της Θόλου και ανατολικά της Στοάς του Αττάλου. Κάποιες από τις οικίες, όπως αυτές στο νότιο τμήμα της Αγοράς προς τον Άρειο Πάγο, ταυτίζονται ως φιλοσοφικές σχολές ή εκπαιδευτήρια.
Επί Ιουστινιανού η δράση των φιλοσοφικών σχολών καταργήθηκε (529) και, σύμφωνα με τις πηγές, αποσπάστηκαν αρκετά αρχιτεκτονικά μέλη από τα κτήρια με σκοπό την ανέγερση της Αγίας Σοφίας. Νέα καταστροφή της Αγοράς και της πόλης προκάλεσε η επιδρομή των Σλάβων το 582.
Νέες οικοδομικές δραστηριότητες που χρονολογούνται στον προχωρημένο 7ο αιώνα, όπως η μετατροπή του Ηφαιστείου σε εκκλησία αφιερωμένη στον Άγιο Γεώργιο και η κατασκευή ενός συγκροτήματος ανατολικά της Στοάς του Αττάλου, σχετίζονται πιθανόν με την επίσκεψη που πραγματοποίησε στην Αθήνα ο Βυζαντινός αυτοκράτορας Κώνστας Β΄ το 662/663.
Όπως διαπιστώνεται από τα ανασκαφικά δεδομένα, κατά τον 8ο και τον 9ο αιώνα η πόλη βρισκόταν σε παρακμή. Τα πρώτα σημάδια ανάκαμψης εκδηλώνονται τον επόμενο αιώνα. Όπως φαίνεται από τις ιδιωτικές κατοικίες, που πλήθυναν και στο χώρο της Αρχαίας Αγοράς, ο πληθυσμός αυξήθηκε και άρχισαν να χτίζονται οι πρώτες εκκλησίες, όπως ο Ναός των Αγίων Αποστόλων, ο λεγόμενος αργότερα του Σολάκη – ένα εξαίσιο δείγμα μεσοβυζαντινής αρχιτεκτονικής, που χρονολογείται γύρω στο 1000.
Στο βόρειο τμήμα της Αγοράς και του Αγοραίου Κολωνού, ανατολικά του Θησείου, διαμορφώνεται από το 10ο έως το 12ο αιώνα ευρύτατη και πυκνοκατοικημένη συνοικία. Το τμήμα αυτό της μεσαιωνικής πόλης έχει μελετηθεί διεξοδικά και μας δίνει πληρέστερη εικόνα για τον τύπο των συνοικιών. Όπως φαίνεται δεν υπήρχε πολεοδομικός σχεδιασμός. Τα σπίτια παρατάσσονται δεξιά και αριστερά από ένα στενό δρόμο που όδευε από βορρά προς νότο. Είχαν μικρά δωμάτια γύρω από μία αυλή, η οποία κατά κανόνα ήταν ασβεστωμένη και σε ορισμένες περιπτώσεις διέθετε μικρό υπόστεγο στη μία πλευρά.
Συνήθως, παρατηρούνται δύο ή τρεις επάλληλες χρονολογικά οικιστικές φάσεις. Η ύδρευση εξασφαλιζόταν με πηγάδια που υπήρχαν στις αυλές, ενώ για την αποθήκευση των τροφίμων χρησίμευαν πιθάρια βαλμένα μέσα στο δάπεδο. Οι κατασκευές ήταν πολύ ευτελείς και σώζονται συνήθως μόνο τα θεμέλια, χωρίς να είναι δυνατή η αποκατάσταση των ορόφων. Ανάμεσα στα σπίτια υπήρχαν μικρά κτήρια για βιοτεχνικές εγκαταστάσεις (εργαστήρια) και εμπορικά «καταστήματα».
Έχει βρεθεί και ένα μεγάλο τετράγωνο κτήριο με δωμάτια γύρω, το οποίο ήταν ίσως κλειστή αγορά ή πανδοχείο ή κατά άλλους βιοτεχνικό συγκρότημα και πιθανόν υφαντουργείο. Η κατάσταση που αναφέραμε άλλαξε άρδην στις αρχές του 13ου αιώνα μετά την καταστροφική επιδρομή του 1203 από το δυνάστη του Ναυπλίου, Λέοντα Σγουρό, και ιδιαίτερα μετά τη φραγκική κατάληψη της πόλης το 1204. Στα μετέπειτα χρόνια της Φραγκοκρατίας λίγες από τις συνοικίες διατηρήθηκαν, ενώ σε αρκετές παρατηρούνται διακυμάνσεις κατοίκησης και ερήμωσης.
