自幼生长在黄梅戏故乡安庆市怀宁县农村，当地农民自发组织的各种黄梅戏团体的演出和农村中传唱的黄梅音调及丰富的民歌，对他产生了深刻影响。在童年时代，他就被音乐所吸引，从六岁时跟随瞎眼算命先生边走边拉二胡，到后来自己学会拉二胡，并且加入了安庆市民众黄梅戏剧团，从事主胡演奏。

上中学时，他每晚都坐在门口听剧团排练，一直到散戏。他不仅痴迷于音乐，更有着非凡的才能。十二三岁时，即使买不起用蟒皮做的二胡，他也自己动手制作了一把。1954年，他被招进剧团从事主胡演奏工作，这表明他已经具备了较高水平。

1955年，程学勤遇到了著名作曲家时白林，让他对写作曲充满了憧憬。他开始涉足作曲领域，并通过一边工作一边自学乐理和系统知识结构，最终胜任并取得了显著成就。在半个世纪内，程学勤创作出了204部作品，是安徽省黄梅戲音乐界自学成才的人物典范。

他的作品多次获得奖项，如《渖婿招婿》获一等奖、《公主与皇帝》获最佳原创影视歌舞片、以及《山乡情悠悠》获“2000年度中国电影华表奖优秀戏曲片奖”。尽管他的作品未能获得很多大奖，但深受老百姓喜爱是他最为骄傲的事迹之一。他坚信，只要能够让老百姓喜欢，就已达到了自己的最高追求。