他的家乡深受庐剧的影响，他在那儿的童年是与庐剧音乐共度的。1958年，他凭借精通二胡，进入了安徽省艺校。在那里他学习了三年庐剧音乐，并学会了作曲。他曾说自己对庐剧的热爱远超黄梅戏，当时只有他一人坚持学业，而其他同伴都放弃了。不过就在他即将展现才华的时候，学校突然撤销了庐剧专业。当时何合浓被分配到庐剧团，而徐代泉却被留校担任教学工作。这让他感到迷惑，但学校领导解释：“我们要为庐剧培养人才。”然而，这个种子未能成长、开花、结果。直至1993年，省艺校才再次招收庐剧班，那些年的时间里徐代泉一直没有机会应用所学知识，最终他决定转向黄梅戏。但库存的是两种截然不同的艺术形式，所以为了尽快掌握新领域，徐代泉采取了一种笨拙但有效的手段——与黄梅戏表演班一起上唱腔课。他一边听老师授课，一边努力记谱，由于他的技巧和毅力，他比那些十几岁的小朋友还要快速学会。不久后，学校的大部分黄梅戏教学曲目都是由他编写完成。

这一过程既艰苦又充满挑战。艰苦体现在不断地付出和努力中，而挑战则来自于学习戏曲音乐所需掌握广泛而深奥的知识。此外，从事这份工作的人往往伴随着贫困和孤独。而像许多作曲家一样，徐代泉投入创作时全心全意，不管遇到什么困难或是寻找灵感时都会持续不懈地尝试。他有时候会连续七八天无法写出一个音符，这样的状态让人寝食难安，有时候在创作悲伤的情节时，即使自己也会流泪，以至于有些疯狂。而一旦作品完成，那种轻松愉悦又是无法言喻的，当演员录制完毕后，再坐在音响前细细聆听那些歌声，也是一番无上的享受。

徐代泉回忆自己的生涯主要分为三大块：教学、创作和研究。作为教师，他不仅在本校教授，还成为中国戏曲音乐学院客座教授，即便退休，也没有闲暇日子。一方面，在创作上除了黄梅戏电视电影之外，还为60多部教材撰写过乐曲，其中包括多个地方传统艺术，如京剧、泗州戲等等。另一方面，在研究领域内，他参与国家重点科研项目《中国戲曲音樂集成·安徽卷》的编纂工作，并主持编纂“泗州戲”、“安慶弹腔”的专题篇章，因而获得“編纂成果二等獎”。

提及安徽地区制作的一系列黄梅戲音樂電視劇，无疑就不得不提及那个名字——著名黃梅戲音樂電視劇作者之一，是這個領域內創造《桃花扇》、《半把剪刀》、《家》、《春》、《秋》、《啼笑因缘》、《二月》、《潘張玉良》以及《祝福》的杰出人物——65岁高龄仍旧活跃在舞台上的徐代泉。在其漫长的一生中担任过多个重要职位，如安徽藝術學校與安徽大學藝術學院戲音教研室主任近20年，现在虽然已退休，但依然擔任中國戲曲學院與安徽大學藝術學院客座教授一職。