Le goût commun pour le jazz et pour les « revues nègres » – Joséphine Baker se produit aux Champs-Élysées en 1925 – rapproche Schaeffner de Georges Henri Rivière. Au printemps 1928, ils organisent ensemble une exposition d’art pré­colombien au Musée des Arts décoratifs. Quelques mois plus tard, Rivière est nommé sous-directeur du Musée d’ethnographie du Trocadéro et Schaeffner le rejoint pour prendre en charge les collections d’instruments de musique. En 1929, il fonde le Service d’organologie qui deviendra le Département d’ethnologie musicale en 1933, puis le Département d’ethnomusicologie en 1954.

Dans ce cadre, Schaeffner réfléchit d’emblée à la place des instruments de musique dans un musée d’ethnographie^[1] et propose de nouveaux critères pour les classer^[2]. Il ne cessera par la suite d’investir le domaine de l’organologie. Il fonde par ailleurs une phonothèque, rassemblant rapidement des cylindres de cire et surtout de nombreux disques du monde entier, de façon à structurer le nouveau département autour de deux ensembles de collections, les instruments et les enregistrements. Il réalise enfin une riche ethnographie de certaines cultures musicales africaines, dans le cadre des missions dirigées par Marcel Griaule, puis, après la guerre, en se rendant avec son épouse Denise Paulme chez les Kissi (Guinée, 1945-1946 et 1948-1949), les Baga (Guinée, 1954) et les Bété (Côte d’Ivoire, 1958).