自幼生长在黄梅戏故乡安庆市怀宁县农村，当地农民自发组织的各种黄梅戏团体的演出和农村中传唱的黄梅音调及丰富的民歌，给童年时代的他留下了深刻的记忆和情感的熏陶。从此，程学勤就痴迷上了音乐，他六岁时，就跟随瞎眼算命先生边走边拉二胡十里路，不禁被其动听的声音所吸引。
上中学时，从家到学校要经过安庆市民众黄梅戏剧团（即后来的安庆市黄梅戏一团），他每天晚上上自习时就坐在门口听剧团排练，一直到散戏。这段经历不仅让他的耳根子变得敏锐，也使得他对音乐产生了更深层次的情感与理解。在这期间，他还特别有天分，上小学时，他就自学学会了拉二胡。他十二三岁买不起用蟒皮做的二胡，就自己动手用皮做了一把二胡。因为拉得特别好，在1954年，他就被民众黄梅戲剧团招进团从事主胡演奏。
1955年，程学勤遇见了著名黃メシ作曲家時白林，他聽了時老作曲《春香傳》後，心里非常羡慕，一心想着自己也能寫出这样的曲子就好了，由此他開始涉足作曲領域。由于從未經過專業音樂學院系統學習，程學勤只能一邊工作一邊自學樂理和黃メシ系統知識結構，对音樂之熱愛加上勤奮好學，使得他很快就勝任了作曲工作，並取得了一些成績。他創作的大戲、小戲共204本，是黃メシ界的一個巨人。
1984年创作《渖婿招婿》获省首届戲劇節一等奖；1988年创作《公主与皇帝》获省第一届艺术节优秀作品奖；1990、1992年分别担任创作电视剧《黃山情》、《桃花扇》，均获得国家级奖项。此外，《山鄉情悠悠》獲2000年度中国电影华表奖优秀戲曲片獎。
程学勤在長期工作實践中積累豐富創作經驗，他創造出的旋律優美動聽，在民間流傳頗廣。他認為自己的作品獲獎並不是太多，但深受老百姓喜愛的是較多，“金杯銀杯不如老百姓口碑”。他的宗旨是“繼承傳統、發展傳統，以時代新面貌、新姿態展現給觀眾”。
