自幼生长在黄梅戏故乡安庆市怀宁县农村，当地农民自发组织的各种黄梅戏团体的演出和农村中传唱的黄梅音调及丰富的民歌，给童年时代的他留下了深刻的记忆和情感的熏陶。从此，程学勤就痴迷上了音乐，六岁时，他碰到一个瞎眼算命先生边走边拉二胡，觉得特别好听，就跟在他后面一直走了10里路，听完后又独自走了10里路返回，回到家还为此挨了一顿打。从此，他就疯狂爱上了音乐。

上中学时，从家到学校要经过安庆市民众黄梅戏剧团（即后来的安庆市黄梅戏一团），他每天晚上上自习时就坐在门口听剧团排练，一直到散戏。痴迷音乐的程学勤还特别有天分，上小学时他就自学学会了拉二胡，十二三岁时买不起用蟒皮做的二胡，他就自己动手用皮做了一把二胡。因为二胡拉得特别好，1954年，初中未毕业的程学勤就被民众黄梅戏剧团招进团从事主胡演奏。

1955年，程学勤遇见了著名黄梅戲作曲家時白林，他聽了時老作曲《春香傳》後，一心想着自己也能寫出这样的曲子，就開始涉足作曲领域。他虽然從未經過專業音樂學院系統學習，但只因對音樂熱愛加上勤奮好學，使得他很快勝任作曲工作，並取得了不俗成果。在長達半個世紀黃梅戲曲創作生涯中，不僅創作出了大量作品，而且獲得了一系列獎項，如1984年的《渖婿招婿》，1988年的《公主與皇帝》，1990年的《黃山情》和1992年的《桃花扇》，都獲得不同級別獎項。

然而，对于程学勤来说，最重要的是他的作品深受老百姓喜爱，而不是获奖数量。他坚信创作应该保持原味，并以時代新面的姿態展现给觀眾。他说：“我最追求的是讓我的作品有個性，有生命力，這樣才是真正滿足老百姓喜闻乐见。”