自幼生长在黄梅戏的故乡安庆市怀宁县农村，程学勤耳濡目染于当地农民自发组织的各种黄梅戏团体演出和传唱的黄梅音调及丰富的民歌。这些经历深深吸引了他，对音乐产生了无尽的向往。六岁那年，他偶遇一位瞎眼算命先生边走边拉二胡，立刻被其美妙的声音所吸引，跟随他走了10里路，只为了听更多。他回家后，又独自返回家中，挨了一顿打，但这并没有阻止他的热情。从此，他对音乐产生了痴迷。

上中学时，每天晚上放学后，他总是坐在门口听安庆市民众黄梅戏剧团（即后来的安庆市黄梅戏一团）的排练，这让他更加坚定了成为音乐家的决心。当时年纪轻轻的程学勤已经展现出了非凡的才华，上小学就开始学习拉二胡，并且自己动手制作了一把蟒皮做成的小提琴。1954年，由于他的才华得到了认可，他被招进民众黄梅戏剧团担任主胡演奏。

1955年，程学勤邂逅了著名作曲家时白林，当听到《春香传》之后，他深受感动，一心希望能够创作出类似作品来。这激励他开始涉足作曲领域。在缺乏专业训练的情况下，程学勤通过不懈努力和对乐理知识系统学习，最终成功地胜任起作曲工作，并取得了一系列成果，从1955年的《杜鹃》到2005年的《明月清照》，在长达半个世纪的创作生涯中，他共创作204部作品，其中许多都获得了高奖项，如1984年的《渖婿招婿》、1988年的《公主与皇帝》以及1990年代和2000年代分别荣获“金鹰奖”、“飞天奖”的电视剧作品。

程学勤以其卓越的地位，被誉为安徽省黄梅戲音樂界的一代宗师。他一直坚信要保持原味唱法，同时也追求时代新面貌、新姿态。他认为最重要的是能让老百姓喜闻乐见，而不是仅仅是赢得荣誉。在他的世界观中，“金杯银杯不如老百姓口碑”，这是他最高追求之一。他致力于创造有个性、有生命力的作品，为观众带来新的感受，这也是他最珍视的事业目标。