Рязанский музыкальный колледж ведет свою историю с 1919 года, изначально как музыкальная школа. Первым заведующим музыкальной школой стал пианист-любитель Н. Н. Иконников. В музыкальной школе дети и взрослые обучались игре на фортепиано, скрипке, оркестровых инструментах, сольному и хоровому пению.
В сентябре 1925 года школа была реорганизована в музыкальный техникум, руководителем которого стал музыкант и преподаватель хорового дирижирования и теории музыки С. А. Заливухин. С этого года в преподавание вводятся музыкально-теоретические предметы, посещение которых стало обязательным для всех учащихся. Одновременно при техникуме создается детская музыкальная школа.
В 1927 году происходит слияние музыкального и художественного техникумов в одно учебное заведение. В техникуме появились следующие отделения: музыкально-педагогическое, выпускающее учителей музыки для общеобразовательных школ, руководителей хоровых коллективов и самодеятельных оркестров народных инструментов; фортепианное, вокальное, оркестровое. В 1936 году техникум был переименован в училище.
В начале Великой Отечественной войны училище было закрыто, но в начале 1942 года вновь возобновило свою работу. В 1943 в колледже появилось отделение народных инструментов, а в 1946 – теоретическое отделение. К началу 50-х годов оркестровое отделение разделилось на два самостоятельных – струнно-смычковое и духовое.
В 1966 году училищу присваивается имя прославленных певцов Григория и Александра Пироговых, уроженцев Рязанской области. В 1976 году на отделении хорового дирижирования создается специализация «Руководитель народного хора». В 1994 году возобновляет работу вокальное отделение. Статус колледжа училище обрело в 2006 году.