自幼生长在黄梅戏的故乡，安庆市怀宁县农村，那里的农民自发组织的黄梅戏团体和传唱的黄梅音调，让他留下了深刻的记忆。程学勤从小就痴迷音乐，当他六岁时，一位瞎眼算命先生边走边拉二胡，他就跟随着去听，连续走了十里路，只为了那美妙的声音。尽管后来被家人打了一顿，但这并没有阻止他对音乐的热爱。

上中学时，每天晚上回家的路上，他总是坐在门口听安庆市民众黄梅戏剧团（即后来的安庆市黄梅戏一团）的排练，这成为了他的日常生活的一部分。当时年纪轻轻的程学勤已经展现出了不凡的音乐才华，上小学的时候，他自己学会了拉二胡，即便买不起蟒皮做的手风琴，也自己动手用皮做了一把。他十二三岁那年，就因为拉得特别好，被民众黄梅戏剧团招进团担任主胡演奏。

1955年，程学勤遇到了著名作曲家时白林，并被《春香传》深深吸引。这使得他开始涉足作曲领域。由于没有接受过专业训练，程学勤只能通过工作和自学学习乐理和黄梅戏知识结构。在半个世纪里，他创作了204部大、小型作品，是一位自学成才的人物。他在1984年的《渖婿招婿》获得首届省级戏剧节奖项，在1990年的《山乡情悠悠》获得“2000年度中国电影华表奖优秀戲曲片奖”。

对于自己的创作成果，程学勤认为最重要的是能够让老百姓喜欢，而不是获奖。他坚持要保持原味唱法，以时代新面貌展现给观众。这就是他的艺术追求。