Μπορεί σήμερα Παναθηναϊκός, ΑΕΚ και ΠΑΟΚ να έχουν μεγάλη αντιπαλότητα όμως μέχρι το 1929 η μοίρα τους ήταν πολύ πιο κοινή.
Ο Π.Α.Ο.Κ., ιδρύθηκε το 1926 στη Θεσσαλονίκη από Κωνσταντινουπολίτες πρόσφυγες που ακολούθησαν την ανταλλαγή των πληθυσμών μετά τη Μικρασιατική καταστροφή και τη Συνθήκη της Λωζάνης που ακολούθησε.
Νωρίτερα είχε ιδρυθεί στην πόλη η Ένωση Κωνσταντινουπολιτών, κυρίως από μέλη των ελληνικών συλλόγων της Πόλης: Ερμής και Πέρα Κλουμπ. Από την Ένωση αυτή προέκυψε αρχικά η ΑΕΚ Θεσσαλονίκης (1925) και ένα χρόνο αργότερα ο Π.Α.Ο.Κ.
Να σημειωθεί ότι ο Αθλητικός και Πολιτιστικός Σύλλογος Ερμής ιδρύθηκε στην Κωνσταντινούπολη το 1875 και αποτέλεσε τον αρχαιότερο ποδοσφαιρικό σύλλογο που ιδρύθηκε στην τουρκική επικράτεια.
Αν και η ΑΕΚ Θεσσαλονίκης κατάφερε να εντάξει στο δυναμικό της ποδοσφαιριστές προερχόμενους από τον Άρη (Βεντουρέλης, Μαλτέζος κλπ.) και από τον Ηρακλή (Γεωργιάδης κ.α.), συνέχιζε να έχει σαν βασικό κανόνα την ένταξη σ’ αυτήν μόνο Κωνσταντινουπολιτών και γενικά προσφύγων αθλητών.
Αυτό προκάλεσε την αντίδραση αρκετών στελεχών της κι έτσι το 1926, μέσα από τις τάξεις της Α.Ε.Κ. προέρχεται ο Π.Α.Ο.Κ., ο οποίος ακολουθώντας τον προσδιορισμό Πανθεσσαλονίκειος στην ονομασία του, ανοίγει τις πόρτες του σε όλους τους Θεσσαλονικείς.
Η αντιπαλότητα
Ο ανταγωνισμός και η αντιπαλότητα των δύο αδερφών σωματείων ΑΕΚ και ΠΑΟΚ κράτησε μέχρι τις 20 Μαρτίου 1929. Τότε ελήφθη η ιστορική απόφαση της συγχώνευσης των δύο προσφυγικών ομάδων, του ΠΑΟΚ με την ΑΕΚ Θεσσαλονίκης, από τον πρόεδρο του πολιτικού σωματείου των προσφύγων γιατρό Καραμαούνα.
Πρωτεργάτες της ιδέας και της υλοποίησής της ήταν ο Φανούριος Βυζάντιος και ο Παντελής Καλπακτσόγλου, που αποσκίρτησαν από την Αθλητική Ένωση Κωνσταντινουπολιτών της Θεσσαλονίκης.
Μετά τη συγχώνευση με την ΑΕΚ Θεσσαλονίκης, το 1929, ο Π.Α.Ο.Κ. άλλαξε και έμβλημα. Αντικαταστάθηκε το πέταλο με το τετράφυλλο τριφύλλι και νέο έμβλημα έγινε ο Δικέφαλος Αετός.