Situé dans le manoir Workman, au 799, rue Sherbrooke Ouest, le Conservatoire de McGill est créé en 1904, grâce au travail remarquable de Clara Lichtenstein au Collège Royal Victoria et au soutien financier de lord Strathcona. La première cohorte, en septembre 1904, compte 426 étudiants en provenance du Québec, de l’est du Canada et de New York.
L’établissement, qui embauche cette année-là de nouveaux professeurs, offre des programmes de licence (L. Mus.), de baccalauréat (B. Mus.) et de doctorat (D. Mus.) en musique; le compositeur Charles A. E. Harriss en devient le premier directeur.
En 1909, Henry Crane Perrin, organiste de la cathédrale de Canterbury, qui deviendra directeur du Conservatoire et premier doyen de la Faculté, met en place un système d’examens propre au Canada, renforçant ainsi l’autonomie de McGill par rapport à l’Associated Board of the Royal Schools of Music de Londres. Charles Henry Mills obtient le premier doctorat en musique (en composition), en 1911.