Die Vereinigung ehemaliger Klosteraner wurde 1885 als Ehemaligenvereinigung des Berlinischen Gymnasiums zum Grauen Kloster gegründet. Schon damals hatte sie das Ziel dabei zu helfen, dass ehemalige Schüler den Kontakt untereinander und zur Schule halten können. Im Jahre 1919 wurde das Mitteilungsblatt für die ehemaligen Klosteraner „Das Graue Kloster“ gegründet. Es wurde bis 1941 im Zeitschriftenformat herausgegeben, musste dann jedoch aufgrund der Papierrationierung auf Postkartenformat reduziert werden.
Nach dem Ende des zweiten Weltkriegs gab es als Ergebnis der politischen Entwicklungen für einige Jahre keine VEK. Wiedergegründet wurde die Vereinigung im März 1955 in einer Weinstube in Berlin-Charlottenburg. Zum Vorsitzenden wurde der ehemalige Lehrer Dr. Splettstößer gewählt, stellvertretender und geschäftsführender Vorsitzender wurde Dr. Walter Schwerdtner. Die Wiedergründung wurde auch zur Modernisierung der Satzung der VEK genutzt. So können seitdem auch Schülerinnen Mitglied der VEK werden (was vor 1945 nicht der Fall war). 1958 wurde Gaius Pohlmann Vorsitzender der VEK. Mitglied seines Vorstandes war als Kassenführerin von Anfang an Ilse Feddern, die dieses Amt genau ein halbes Jahrhundert, bis 2008, innehaben sollte. Frau Feddern wurde nach ihrem Ausscheiden aus dem Vorstand zum Ehrenmitglied der VEK ernannt.
Die Übernahme der Tradition des Grauen Klosters durch das Evangelische Gymnasium im Jahr 1963 wurde von der VEK teilweise kritisch gesehen, im Endergebnis aber positiv begleitet. Fast in allen Jahren veranstaltete die VEK sogenannte kleine Sängerfahrten in Berlin, zu denen der Schulchor und interessierte Schülerinnen und Schüler eingeladen wurden. Nachdem 1978 Gaius Pohlmann aus Altersgründen den Vorsitz abgegeben hatte, stand für 26 Jahre, bis März 2004, Helmut Landgrebe – ehemaliger Schüler des Berlinischen Gymnasiums und bis 1988 Lehrer am Evangelischen Gymnasium zum Grauen Kloster – der VEK vor.