自幼生长在黄梅戏的故乡安庆市怀宁县农村，程学勤耳濡目染于当地农民自发组织的各种黄梅戏团体的演出和传唱的黄梅音调及丰富的民歌。童年时期，他被这些文化熏陶深刻影响，培养出了对音乐的热爱。他六岁时跟随一个瞎眼算命先生边走边拉二胡十里路，不仅因为好听而返回家中，也因此挨了一顿打，但这并未阻止他对音乐产生痴迷。

上中学期间，他每晚都坐在门口聆听安庆市民众黄梅戏剧团（即后来的安庆市黄梅戏一团）的排练，这让他更加坚定了追求音乐梦想。程学勤不仅天资聪颖，还特别有才华，在小学时代就通过自学学会拉二胡，并且自己动手制作了蟒皮二胡。1954年，他凭借卓越的琴艺，被民众黄梅戏剧团招募为主胡演奏。

1955年，程学勤遇见了著名作曲家时白林，对其作品《春香传》的欣赏激起了他创作自己的曲子的心愿。在没有接受过专业音乐教育的情况下，程学勤通过不断学习乐理和系统了解黄梅戏知识结构，为他的创作奠定了基础。他不懈努力，最终成为了一个能胜任作曲工作的人，并取得了显著成绩，从1955年的第一部作品《杜鹃》到2005年的电视剧《明月清照》，半个世纪间，他创作了204部大、中、小型 黄梅戲作品，是安徽省黄梅戏领域的一个独特典范。

1984年至1992年间，他分别获得了一等奖、国家级奖项以及“金鹰奖”、“飞天奖”，证明了他的艺术价值。而在2000年度中国电影华表奖中，《山乡情悠悠》也因其优美旋律赢得优秀戏曲片奖。程学勤总结经验认为，其最大的荣幸是老百姓喜闻乐见，而非获奖多多。他坚信要保持主见，以原味唱法展现给观众，使得每一首曲子都有个性与生命力。这对于他来说，就是最高追求。