Von 1906 bis 1909 lebte Kaminski in Heidelberg und widmete sich hauptsächlich, unter Vernachlässigung seines Studiums der Staatswissenschaft, dem Klavierspiel. Der Universitätsmusikdirektor Philipp Wolfrum erteilte ihm Unterricht in Musiktheorie und riet ihm, in Berlin ein Musikstudium aufzunehmen.