他的家乡深受庐剧的影响，他在那儿的童年是与庐剧音乐共度的。1958年，他凭借精通二胡，进入了安徽省艺校。在那里他学习了三年庐剧音乐，并学会了作曲。他曾说自己对庐剧的热爱远超黄梅戏，当时只有他一人坚持学业，而其他同伴都放弃了。不过就在他即将展现才华的时候，学校突然撤销了庐剧专业。当时何合浓被分配到庐剧团，而徐代泉却被留校担任教学工作。这让他感到迷惑，但学校领导解释：“我们要为庐剧培养人才。”然而，这个种子未能成长、开花、结果。直至1993年，省艺校才再次招收庐剧班，那些年的时间里徐代泉一直没有机会应用所学知识，最终他决定转向黄梅戏。但是，库布和黄梅戏之间存在巨大的差异，以此作为契机，徐代泉采取了一种笨拙但有效的手段——与黄梅戏表演班一起上唱腔课。他不仅聆听老师讲授，还亲自记下每一个音符。由于他的技巧熟练，他比那些十几岁的小朋友还要快地掌握新知识，最终成为编写学校黄梅戏教学曲目的主要人物。

这条道路充满艰辛。一方面是日复一日的苦干，一方面又是在追求卓越中不断挣扎。而从事音乐创作的人们往往不得不面对贫困和孤独，这也是为什么选择这个行业的人数如此之少。像许多作曲家一样，徐代泉投入创作时全身心、无尽情地沉浸其中。当遇到创意停滞，不知如何继续时，他会连续七八天，只有一个音符也无法书写。那时候的心境真是无论坐着还是走动，都想着那个作品；醒来睡觉，都梦见它；即便做梦，也会想到它。不断沉迷于工作间隙，便难以分辨真假实象。有时候，当他在创作悲伤的情感段落时，即使只是一声呼唤，就会让人泪水涟涟。

徐代泉回忆自己的职业生涯，被划分为三个阶段：第一是教书，因为在本校以及中国戏曲学院客座教授期间，无休止地参与课程设计；第二是创作，为60多部教育性质的电视电影及舞台作品谱写过背景音乐，其中包括多种传统京味，如京劇、泗州戲等等；第三则是研究，在1987至1994年间担任国家重点科研项目《中国戲曲音樂集成·安徽卷》副主编，并成功完成“泗州戲”、“安慶弹腔”部分内容获得“編纂成果二等獎”。

提起安徽地区著名的黃梅戲電視劇，有幾個名字不可或缺，其中之一就是由於其創造歌曲《桃花扇》、《半把剪刀》、《家》、《春》、《秋》、《啼笑因缘》、《二月》、《潘張玉良》、《祝福》的徐代泉，這位65歲高龄仍然活跃于艺术界并且擔任中國戲曲學院及安徽大學藝術學院客座教授一職。