他的家乡流行唱庐剧，他小时候是浸润在庐剧的音乐中长大的。1958年他凭借拉得一手好二胡，以独奏《良宵》考进了安徽省艺校，整整学了三年庐剧音乐，学会了作曲。他说自己对庐剧的熟悉程度和喜爱程度都远远超过了黄梅戏，当初他的同班4个人后来只剩下他一人，别人都不学了，他依然在坚守，立志要为庐剧艺术做出点成就。然而就在他毕业时准备大展宏图的时候，学校却撤销了庐剧专业。当时学西洋音乐的何合浓被分配去了庐剧团，而徐代泉被宣布留校从事教学。徐代泉很不理解，以为领导弄错了，他认为按理应该把他分到庐剧团去才对。但学校领导说出的理由却让他心服口服：“我们是要为庐剧留一个种子。”但这个种子却没有机会发芽、开花、结果。

省艺校直到1993年才招了一个庐劇班，这中间30多年徐代泉一直学无所用，没有办法，他只好下决心转向黄梅戏。但是，由于不同地区不同的歌曲风格和节奏感，使得学习成为了一项巨大的挑战。他采取了一种笨方法——与黄梅戲表演班的学生一起上唱腔课。老师上课时，他一面听，一面记谱。由于功夫下得大，他比十几岁的孩子学得还快，为此功力充沛的大师，最终掌握并创作出了许多经典作品。

这一行干起来既苦又难。一方面，是因为熬人的劳累；另一方面，是因为从事戏曲音乐的人往往不得不与清贫和寂寞共处。这也是为什么有那么多人选择离开这个行业。在这种情况下，有些作曲家会感到绝望，但徐代泉并未放弃。他全身心地投入到了创作之中，即使遇到写不出来的情况，也不会轻易放弃。当完成一部作品之后，那种满足感简直无法用言语形容。

在他的职业生涯里，徐代泉致力于三个方面：教学、创作和研究。在教学领域内，不仅在本校教授，还担任中国戏曲学院客座教授，即便退休也没有闲暇时间。而在创作上除了电视舞台剧外，还曾为60多部教学题目编制过乐谱，并涉及诸如京劇、泗州戲等各种各样的古老艺术形式。在研究领域内，则以其关于“中国戲曲音樂集成·安徽卷”的工作而闻名，在其中担任副主编，并获得重要奖项。

谈及安徽黃梅戲音樂電視劇，无论如何不能忘记的是這位創造《桃花扇》、《半把剪刀》、《家》、《春》、《秋》、《啼笑因缘》、《二月》、《潘张玉良》以及《祝福》的伟大人物——徐代泉。此刻65岁高龄仍旧活跃于文化舞台上的著名艺术家，现在仍旧担任中國戲曲學院與安徽大學藝術學院客座教授的一职务。