自幼生长在安庆市怀宁县农村，当地农民自发组织的各种黄梅戏团体的演出和农村中传唱的黄梅音调及丰富的民歌，给童年时代的他留下了深刻的记忆和情感的熏陶。从此，他就痴迷上了音乐。

六岁时，他碰到一个瞎眼算命先生边走边拉二胡，觉得特别好听，就跟在他后面一直走了10里路，听完后又独自走了10里路返回，回到家还为此挨了一顿打。从此，他就疯狂爱上了音乐。他上中学时，从家到学校要经过安庆市民众黄梅戏剧团（即后来的安庆市黄梅戏一团），他每天晚上上自习时就坐在门口听剧团排练，一直到散戏。

痴迷音乐的程学勤还特别有天分，上小学时他就自学学会了拉二胡，十二三岁时买不起用蟒皮做的二胡，他就自己动手用皮做了一把二胡。因为二胡拉得特别好，在1954年初中未毕业的时候，被民众黄梅戲劇團招进團從事主胡演奏。在那時候，不僅是他的音樂才華獲得肯定，更是對黃梅戲文化有著深厚了解與熱愛。

1955年，与著名黃梅戲作曲家時白林相遇後，他聽了時老作曲《春香傳》後，对其充滿羡慕之情，一心想着也能寫出類似的曲子，因此開始涉足作曲領域。他雖然從未經過專業音樂學院系統學習，但透過一邊工作一邊自學樂理和黃梅戲系統知識，使得他很快勝任了作曲工作，並取得了不俗成果。在長達半個世紀黃梅戲曲創作生涯中，程學勤寫下大戲、小戲共204本，是安徽省黃梅戲音樂界的一位典範人物。

1984年的《渖婿招婿》獲選為首屆省級文藝節優秀作品；1988年的《公主与皇帝》獲選為第一屆省級藝術節優秀作品；1990年和1992年的《黃山情》、《桃花扇》，都榮獲國家級獎項“金鷹獎”、“飛天獎”。2000年的《山鄉情悠悠》，更是在中國電影華表獎中獲得優秀影片奖项。此外，《杜鹃》的创作至今仍被人们津津乐道，它标志着程学勤开始写入自己的脚步进入华丽舞台，并随后的多部作品也是如此，以优美动人、流畅自然而闻名遐迩。

程学勤认为创作出有个性、有生命力的作品，为老百姓所喜闻乐见就是自己最高追求。他坚信，每个人都应该找到属于自己的艺术风格，即使没有系统教育，也可以通过不断学习和实践来提升自己，这样的态度让他成为无数青年艺术家的榜样。