他的家乡深受庐剧的影响，他在那儿长大，耳濡目染于庐剧的旋律。1958年，他凭借出色的二胡技艺和独唱《良宵》，进入了安徽省艺术学校。那里的三年学习经历让他对庐剧音乐了如指掌，并学会了作曲。他曾说，自己对庐剧的熟悉程度和热爱远超过黄梅戏，当时他的同学中只有他坚持不懈，而其他人都放弃了。然而，就在他毕业准备展现才能之际，学校突然宣布撤销庐剧专业。在那个时候，同伴何合浓被分配到庐剧团，而徐代泉则被留校担任教师，这让他感到迷惑不解。但是学校领导的解释——要为庐剧留下种子——深深触动了他。

尽管如此，这个“种子”没有机会发芽、开花、结果。直到1993年，省艺校才再次招收一个庐剧班，那些年里徐代泉一直等待着却无所作为。他最终决定转向黄梅戏，但这两种音乐风格迥异，他只能采取一种笨拙但有效的手段：跟随黄梅戏表演班学生一起上唱腔课。当老师教的时候，他一边听，一边记谱，因为他的技术过硬，所以比那些十几岁的小伙计们学得更快。不久后，他几乎独立编写了一切黄梅戏教学曲目。

这一过程既艰辛又充满挑战。他必须忍受极大的疲惫与创作上的挣扎。当作品进展缓慢时，他会沉浸其中，不眠不休地工作，有时候甚至会因为悲伤而流泪。而当作品完成之后，那份成就感是难以言说的。

徐代泉回忆自己的职业生涯分为三个阶段：教学、创作和研究。在教学方面，不仅在本校教授，还担任中国戏曲音乐学院客座教授，即便退休也从未停止过工作。在创作上，他除了电视剧和舞台劇之外，还为60多部教育用途的歌曲提供乐谱，涉及多个不同的戏曲传统。在研究领域中，他参与并主导了一项国家重点科研项目《中国戏曲音乐集成·安徽卷》的副主编工作，并因其贡献获得奖励。

提起安徽的黄梅戲音樂電視劇，无人不知的是徐代泉，这位65岁高龄仍然活跃于舞台的人物，是一位著名作曲家，其名字与《桃花扇》、《半把剪刀》、《家》、《春》、《秋》、《啼笑因缘》、《二月》、《潘张玉良》、《祝福》等十几部黃梅戲音樂電視劇紧密相连。虽然退休，但至今仍担任中国戲曲學院以及安徽大學藝術學院客座教授的地位。