自幼在安庆市怀宁县农村长大，他耳濡目染于当地农民自发组织的黄梅戏团体和传唱的黄梅音调及丰富的民歌，从此痴迷上了音乐。

他曾经跟随一个瞎眼算命先生边走边拉二胡，听完后独自走了10里路回家，还因为此挨了一顿打，但这并未阻止他的热爱。他上中学时，每晚在门口听剧团排练，一直到散戏，这些都是他成才前的小小启蒙。

十二三岁时，他就学会了拉二胡，并自己动手用皮做了一把。1954年，他被民众黄梅戏剧团招进团从事主胡演奏工作。1955年，他遇见了著名作曲家时白林，并开始涉足作曲领域。他虽然没有经过专业音乐学院的系统学习，但通过勤奋好学和对音乐深厚的情感，最终胜任了作曲工作，并取得了不俗成就。

从创作第一部作品《杜鹃》到2005年的电视剧《明月清照》，程学勤写下了204本大戏、小戏。在多次获奖中，有《渖婿招婿》获省首届戏剧节一等奖，《公主与皇帝》获省艺术节作曲奖，以及电视剧《黄山情》、《桃花扇》获得国家级奖项等。而他的作品《山乡情悠悠》更是获得“2000年度中国电影华表奖优秀戏曲片奖”。

程学勤认为自己的作品虽获重视但老百姓喜爱更多，“金杯银杯不如老百姓口碑”。他坚持以时代新面貌、新姿态展现给观众，以个性、有生命力的作品为追求最高标准。