В работе над картиной активную помощь художнику оказывал Владимир Стасов, который взял на себя задачу поиска портретов скончавшихся и не доступных для натурного портретирования музыкантов. По общему мнению Репина и Стасова в композицию было необходимо включить Мусоргского и Бородина, однако эта идея была отвергнута заказчиком. Список композиторов для Пороховщикова составлял Николай Рубинштейн, руководствовавшийся своими личными музыкальными пристрастиями. Большая часть композиторов, изображённых на картине, к моменту её создания уже скончались.
Список фамилий композиторов, которых Репину вменялось изобразить, составил Николай Рубинштейн. У Н.Г. Рубинштейна были свои пристрастия и приоритеты в композиторской среде, поэтому список получился своеобразный, в него не вошли Бородин, Мусоргский, Чайковский и другие.
Когда Репин обратился к заказчику с предложением включить в список Бородина и Мусоргского, Пороховщиков, благоговевший перед Н. Рубинштейном, ответил: "Вот еще! Вы всякий мусор будете сметать в эту картину! Мой список имен музыкантов выработан самим Николаем Рубинштейном, и я не смею ни прибавить, ни убавить ни одного имени из списка, данного вам... Одно мне досадно, что он не вписал сюда Чайковского. Ведь мы, вся Москва, обожаем Чайковского. Тут что-то есть... Но что делать? А Бородина я знаю; но ведь это дилетант в музыке: он - профессор химии в Медико-хирургической академии... Нет, уж вы всяким мусором не засоряйте этой картины!"
На картине изображены двадцать два композитора "всех времён и народов" - большинство из них к моменту написания картины "почили в бозе", и их Репин изображал по портретам, которые доставлял ему В.В. Стасов. Стасов очень близко к сердцу принял идею картины и активно помогал её создавать – где только мог доставал необходимые изображения умерших композиторов (старинные снимки, дагерротипы, старые литографии), а также создавал знакомства со здравствующими музыкантами, чтобы Репин мог написать их с натуры.
С натуры Репин написал только Балакирева, Римского-Корсакова и Направника, их портреты с эскизов и набросков он переносил на полотно, и только Николая Рубинштейна написал с натуры прямо в картину.
"Славянских композиторов" увидел И.С.Тургенев, и картина ему не понравилась. Репин стал было объяснять ему цели своего произведения и подробности работы над ним, но Тургенев прервал его и с досадой сказал: "Ну, что это, Репин? Какая нелепая идея соединять живых с давно умершими!" Репин попытался оправдаться, мол, он не виноват в сюжете, список лиц дан заказчиком, и он не смел даже отступить от состава изображаемых фигур; но Тургенев остался при своём мнении: "Ну, что же, тем хуже для вас, а я не могу переварить этого соединения мертвых с живыми!" И когда картина была уже вывешена в Консерватории, Тургенев не изменил своего мнения - умершим не место рядом с живыми!
Римский-Корсаков тоже "не восхитился" своей фигурой на картине, ему не понравился её "сухой контур".
Готовая картина, выставленная на обозрение в Консерватории (находящейся тогда на Мясницкой), имела у публики успех. "П. М. Третьяков очень желал приобрести эту картину для своей галереи, но его удержала огромная запрошенная за нее цена".
Центральная группа слева направо: Н.А.Римский-Корсаков (в морской форме), в профиль М.А.Балакирев, он смотрит на М.И.Глинку; между ними В.Ф. Одоевский. Между Римским-Корсаковым и спиной Балакирева сидит на стуле А.С.Даргомыжский, за ним И.С.Ласковский (с красным воротником).
Справа от центральной группы в глубине - сидит А.Ф.Львов (в придворном мундире), к нему склонился А.Н.Верстовский, позади них Д.С. Бортнянский, П.И. Турчанинов и А.Е.Варламов.
В нижней правой части - у рояля братья А.Г. и Н.Г.Рубинштейны, рядом с Антоном Рубинштейном стоит А.Н.Серов (в светлом костюме).
В глубине за ними группа из 4-х польских музыкантов - Станислав Монюшко (крайний справа, за Н.Рубинштейном)), Фредерик Шопен, Михал Огиньский и Кароль Липиньский (на фоне двери).
Левый край картины - русский композитор Э.Ф. Направник (стоит) и три чешских композитора - Берджих Сметана (с книгой), Карел Бендль и Антонин Горак.
В настоящее время картина Репина украшает стену фойе Московской консерватории.