自幼生长在黄梅戏的故乡，安庆市怀宁县农村，那里的农民自发组织的黄梅戏团体和传唱的黄梅音调，让他留下了深刻的记忆。程学勤从小就痴迷音乐，当他六岁时，一位瞎眼算命先生边走边拉二胡，他就跟随着去听，连续走了十里路，只为了那美妙的声音。尽管后来回家还被打了一顿，但这并没有阻止他的热爱。他上中学时，每天晚上都会坐在门口听安庆市民众黄梅戏剧团排练。

程学勤不仅有着对音乐的热爱，还特别有天分。当他还是个学生的时候，就开始自己学习拉二胡，他甚至用自己的手做了一把蟒皮二胡。因为他的弹奏技艺出色，1954年，他才十二三岁，就被民众黄梅戏剧团招募进去担任主胡演奏。

1955年，程学勤遇到了著名作曲家时白林，当他听到《春香传》后，就产生了创作出类似作品的心愿。他开始涉足作曲领域，即便没有接受过专业训练，但通过一边工作一边自学乐理和黄梅戏知识，他很快就在这个领域取得了成果。在接下来的半个世纪里，程学勤写出了204部大、小合集，是一个在同行中无可比拟的人物。

除了这些成就之外，1984年的《渖婿招婿》获得了一等奖；1988年的《公主与皇帝》获最佳作曲奖；1990年和1992年的电视剧《黄山情》、《桃花扇》都赢得了国家级奖项。而2000年的《山乡情悠悠》，更是荣获“华表奖”。

对于自己的作品，程学勤感到最自豪的是它们深受老百姓喜爱，而不是那些金杯银杯。他认为好的作品要有独特性，要保持原味，同时也要以新面貌展现给观众。他的追求就是为老百姓带来能够喜闻乐见的艺术品。