Τη σεζόν 1927-28 η ΕΠΟ είχε σκοπό να διοργανώσει το πρώτο πανελλήνιο πρωτάθλημα ποδοσφαίρου μαζί με τις ΕΠΣ Αθηνών, Πειραιά και Μακεδονίας. Ωστόσο, υπήρχε μια κόντρα της ομοσπονδίας με τον Ολυμπιακό, η οποία και οδήγησε στην πολύμηνη τιμωρία του πειραιώτικου συλλόγου, απαγορεύοντας σε όλα τα υπόλοιπα σωματεία να αγωνίζονται μαζί του.

Παναθηναϊκός και ΑΕΚ είχαν επίσης τις διαφορές τους με την ΕΠΟ, έτσι αποφάσισαν να συμμαχήσουν με τον Ολυμπιακό. Αποκορύφωμα της διαμάχης αποτέλεσε η άρνηση της ΑΕΚ να αντιμετωπίσει τον Απόλλωνα στις 23 Οκτώβρη του 1927, σε προγραμματισμένο αγώνα για την οικονομική ενίσχυση της ομοσπονδίας. Αποτέλεσμα η τετράμηνη τιμωρία αποκλεισμού Παναθηναϊκού και ΑΕΚ από την ΕΠΣΑ, ενώ ακολούθησε και η διαγραφή των τριών συλλόγων από την ΕΠΟ.

Στις 31 Οκτωβρίου εκείνου του έτους, λοιπόν, μετά τη διαγραφή τους, οι τρεις τους αποφάσισαν κι επίσημα την ίδρυση του ΠΟΚ. Το όνομα βγήκε από τα αρχικά των ομάδων (το Κ από το Κωνσταντινουπόλεως ΑΕ), σε πείσμα των διαφόρων φημών που επικρατούσαν τότε για την προέλευση του τίτλου, όπως "Ποδοσφαιρικός Όμιλος Κέντρου", ή "Ποδοσφαιρική Οργάνωση Κέντρου". Υπήρχαν, μάλιστα, πολλοί που αμφισβητούσαν ακόμα και την επίσημη συγκρότησή του. Εμπνευστές και πρωτεργάτες της ίδρυσης του ΠΟΚ ήταν ο Αθανάσιος Μέρμηγκας του Ολυμπιακού, ο Απόστολος Νικολαΐδης του Παναθηναϊκού και ο Κ. Κωνσταντάρας της ΑΕΚ.

Στις αρχές της επόμενης σεζόν, πάντως, το ΠΟΚ διευρύνθηκε και με τη συμμετοχή άλλων ομάδων, όπως του Απόλλωνα και του Αθηναϊκού, ενώ αργότερα δέχτηκε στους κόλπους του και ξένες ομάδες από τη Γιουγκοσλαβία, την Ουγγαρία, την Τσεχοσλοβακία και τη Ρουμανία.

Τον Ιούλιο του 1928, η ΕΠΟ δέχτηκε πίσω τα τρία σωματεία, ωστόσο αυτό δε σήμανε και τη διάλυση του ΠΟΚ, καθώς Ολυμπιακός, Παναθηναϊκός και ΑΕΚ συνέχισαν τη μεταξύ τους συνεργασία μέχρι το 1963, όταν και διαλύθηκε αυτός ο ιδιότυπος συνεταιρισμός.