自幼生长在黄梅戏的故乡，安庆市怀宁县农村，那里的农民自发组织的黄梅戏团体和传唱的黄梅音调，让童年时代的他留下了深刻的记忆和情感。程学勤从此对音乐产生了浓厚兴趣，当他六岁时，一位瞎眼算命先生边走边拉二胡，他就跟着走了十里路，听完后又独自回家，被父亲打了一顿，但这并没有阻止他的热爱。

上中学时，每天晚上放学后，他总是坐在门口听安庆市民众黄梅戏剧团（今安庆市黄梅戏一团）的排练声。他的天赋让他在小学阶段就学会拉二胡，并且自己动手做了一把蟒皮二胡。当初中未毕业，他就被招进剧团担任主胡演奏，这证明了他的才华。

1955年，程学勤遇到了著名作曲家时白林，他被《春香传》的美妙旋律所吸引，从此开始涉足作曲领域。尽管没有接受专业教育，但通过不懈努力学习乐理和黄梅戏知识结构，使得他很快成为了一个优秀的作曲家。在半个世纪内，程学勤创作出了204部作品，是安徽省黄梅戏音乐界的一个典范。

1984年，《渖婿招婿》获得一等奖；1988年，《公主与皇帝》获得作曲奖；1990年和1992年的《黄山情》、《桃花扇》分别获“金鹰奖”、“飞天奖”。2000年的《山乡情悠悠》赢得“中国电影华表奖”。

程学勤积累了丰富经验，其作品优美动听，在民间广受欢迎。他认为最重要的是保持原味唱法，以时代新面貌展现给观众。他追求的是有个性、有生命力的作品，为老百姓喜闻乐见。这就是他的最高追求。