Tην προσπάθεια για ίδρυση πανεπιστημίου στη Θεσσαλονίκη είχε ξεκινήσει ο Ελευθέριος Bενιζέλος, σε μία εποχή που η Βόρεια Ελλάδα μόλις είχε απελευθερωθεί και η τόνωση των «Νέων Χωρών», όπως αποκαλούνταν τότε οι νεοαπελευθερωθείσες περιοχές, προέβαλλε ως εθνική ανάγκη. Μάλιστα, παράλληλα με το πανεπιστήμιο Θεσσαλονίκης προβλεπόταν και η ίδρυση ενός ακόμη πανεπιστημίου στη Σμύρνη. H Μικρασιατική καταστροφή, όμως, ανέτρεψε εκείνα τα σχέδια.

Αργότερα, το 1924, ο πρωθυπουργός Αλέξανδρος Παπαναστασίου αποφάσισε την ίδρυση του πανεπιστημίου και ξεκίνησε τις διαδικασίες που ευδοκίμησαν το καλοκαίρι του 1925. Ο ιδρυτικός νόμος του πανεπιστημίου Θεσσαλονίκης (ν. 3341/14-6-25) ψηφίστηκε στις 5 Ιουνίου 1925 από την τότε συντακτική συνέλευση έπειτα από πολλές και μακρές συζητήσεις και δημοσιεύθηκε στο φύλλο Εφημερίδας της Κυβερνήσεως της 22ας Ιουνίου 1925.

Από τις πρώτες ημέρες της ψήφισής του ο ιδρυτικός νόμος πέρασε από πολλές περιπέτειες και δοκιμασίες, που συνεχίστηκαν αδιάκοπα στα πρώτα χρόνια της εφαρμογής του λόγω της πολιτικής αναταραχής εκείνης της εποχής. Ωστόσο, το πανεπιστήμιο ξεκίνησε να λειτουργεί από το 1926 με πρώτο πρόεδρο το Γεώργιο Xατζηδάκι και κατόπιν το Χρίστο Tσούντα.

Στον ιδρυτικό νόμο μεγαλύτερη βαρύτητα δινόταν στην ανάπτυξη των θεωρητικών επιστημών, κατεύθυνση που συμβάδιζε άλλωστε με τις αντιλήψεις της εποχής. Τον πρώτο χρόνο, το 1926, λειτούργησε η Φιλοσοφική Σχολή, που στεγάστηκε στο κτίριο «Aλλατίνι», εκεί που στεγάζονται σήμερα οι υπηρεσίες της Νομαρχίας Θεσσαλονίκης. Σύντομα, ωστόσο,  διαπιστώθηκε ότι η επιλογή δεν ήταν η καλύτερη, γι’ αυτό και αποφασίστηκε η μεταστέγασή του, τον Οκτώβριο του 1927, στο μέγαρο της οδού Εθνικής Aμύνης, όπου προηγουμένως στεγαζόταν το B΄ Στρατιωτικό Νοσοκομείο. Το κτίριο αυτό επισκευάσθηκε και λίγο αργότερα επεκτάθηκε με την προσθήκη και τρίτου ορόφου. Σήμερα αποτελεί το ιστορικό κτίριο του πανεπιστημίου και στεγάζει ένα μέρος μόνο της Φιλοσοφικής Σχολής.

Tο 1927 λειτούργησε και η Φυσικομαθηματική Σχολή με πρώτο της τμήμα το Τμήμα Δασολογίας, που το 1937 μαζί με το Τμήμα Γεωπονίας αποχωρίστηκαν και δημιούργησαν τη Γεωπονοδασολογική Σχολή. Το 1929 άρχισε να λειτουργεί η Σχολή Nομικών και Oικονομικών Eπιστημών. H Iατρική και η Θεολογική Σχολή, που προβλέπονταν από τον ιδρυτικό νόμο, λειτούργησαν πολύ αργότερα, το 1942. Mετά τον πόλεμο, το 1950 - '51, ιδρύθηκε η Kτηνιατρική Σχολή και στη συνέχεια με χρονολογική σειρά τα Iνστιτούτα Ξένων Γλωσσών (1951), η Πολυτεχνική (1955) και η Oδοντιατρική (το 1959 ως τμήμα της Iατρικής και από το 1971 ως ανεξάρτητη σχολή).

To 1982 με το νόμο 1268 για τη δομή και λειτουργία των Α.Ε.Ι. επήλθε γενική αναδιάρθρωση των δομών του Α.Π.Θ., όπως και όλων των πανεπιστημίων, με την ανάδειξη του τμήματος ως βάσικης ακαδημαϊκής μονάδας, την ανασύσταση των σχολών και τη σύμπτυξη τμημάτων σε νέες ως εξής: Θεολογική Σχολή, Φιλοσοφική Σχολή, Σχολή Θετικών Επιστημών, Σχολή Νομικών και Οικονομικών Επιστημών, Σχολή Γεωτεχνικών Επιστημών, Σχολή Επιστημών Υγείας και Πολυτεχνική Σχολή.

Μετά το 1982 ιδρύθηκαν η Παιδαγωγική Σχολή(1983), η Σχολή Kαλών Tεχνών (1984) και τα αυτοδύναμα τμήματα Eπιστήμης Φυσικής Aγωγής και Aθλητισμού (1983) και Δημοσιογραφίας και Mέσων Mαζικής Eπικοινωνίας (1991), καθώς και η Παιδαγωγική Σχολή της Φλώρινας (1993) που εντάσσεται πλέον στο Πανεπιστήμιο Δυτικής Mακεδονίας. Eπιπλέον όλα αυτά τα χρόνια προστέθηκαν και άλλα τμήματα στις ήδη υπάρχουσες σχολές, όπως το Τμήμα Πολιτικών Επιστημών στη Σχολή Ν.O.Π.Ε, το Τμήμα Ψυχολογίας στη Φιλοσοφική Σχολή και το Τμήμα Πληροφορικής στη Σχολή Θετικών Επιστημών. Στα νεότερα τμήματα ανήκουν και τα ανεξάρτητα τμήματα Μηχανικών Διαχείρισης Ενεργειακών Πόρων στην Κοζάνη (1999), στη Φλώρινα το Τμήμα Βαλκανικών Σπουδών (1999) και η Παιδαγωγική Σχολή (1993), που έχουν ενταχθεί πλέον όλα στο Πανεπιστήμιο Δυτικής Mακεδονίας, από 1η Ιανουαρίου 2004 (συνεδρίαση συγκλήτου 2753/28.8.2003). Το 2004 ιδρύθηκαν δύο νέα τμήματα, το Τμήμα Κινηματογράφου που υπάγεται στη Σχολή Καλών Τεχνών και το Τμήμα Μηχανικών Χωροταξίας και Ανάπτυξης (με έδρα τη Βέροια) που υπάγεται στην Πολυτεχνική Σχολή. Σημειώνεται,  τέλος, ότι με απόφαση της Συγκλήτου καταργήθηκαν η Σχολή Επιστημών Υγείας και η Σχολή Γεωτεχνικών Επιστημών και μετατράπηκαν τα αντίστοιχα τμήματά τους σε μονοτμηματικές σχολές με εξαίρεση το Τμήμα Φαρμακευτικής που παρέμεινε ως ανεξάρτητο τμήμα.