他的家乡深受庐剧的影响，他在那儿的童年是与庐剧音乐共度的。1958年，他凭借精通二胡，进入了安徽省艺校。在那里他学习了三年庐剧音乐，并学会了作曲。他曾说自己对庐剧的热爱远超黄梅戏，当时只有他一人坚持学业，而其他同伴都放弃了。不过就在他即将展现才华的时候，学校突然撤销了庐剧专业。当时何合浓被分配到庐剧团，而徐代泉却被留校担任教学工作。这让他感到迷惑，但学校领导解释：“我们要为庐剧培养人才。”然而，这个种子未能成长、开花、结果。直至1993年，省艺校才再次招收庐剧班，那些年的时间里徐代泉一直没有机会应用所学知识，最终他决定转向黄梅戏。但是，库布和黄梅戏之间存在巨大的差异，以此作为契机，徐代泉采取了一种笨拙但有效的方法——与黄梅戏表演班一起上唱腔课。他不仅听着记谱，还能够比学生们更快地掌握新知识。随着时间推移，他几乎独自创作出了所有艺术学院的黄梅戏教学曲目。

这一过程既艰辛又困难。艰辛体现在不断努力中寻找灵感；困难则在于这项工作需要学习大量内容。而从事这种工作的人往往面临贫穷和孤独，这也是为什么这个行业人数如此少。像许多作曲家一样，徐代泉投入到创作中，将自己的全部情感投入其中。当遇到写不出感觉时，他可能连续七八天都无法写下一个音符。那时候的情绪极其专注，无论走路还是睡觉，都像是梦境中的自己。一旦完成作品，那种轻松愉悦也难以用言语描述。在录音完成后，当演员们录制完毕后，再坐在音响前细细品味那些旋律，那份陶醉之情亦无以言表。

据徐代泉回忆，一生下来做过三件事：教学、创作和研究。教学是他的主要职责，不仅在本院教授，也是中国戏曲音乐学院客座教授。此外，即使退休，他依然忙碌如初。他在创作方面除了电视影视作品及舞台作品外，还为60多部教材编写过音乐，为包括黄梅戏、库布等多种京劇类型提供服务。他还参与了一项国家重点科研项目《中国戲曲音樂集成·安徽卷》，并主编“泗州戲”、“安慶弹腔”两部分获得“編纂成果二等獎”。

提起安徽黃梅戲電視劇，就無法不提及這位創造《桃花扇》、《半把剪刀》、《家》、《春》、《秋》、《啼笑因缘》、《二月》、《潘張玉良》以及《祝福》的著名音樂創作者之一—65歲高龄的徐代泉。此前近20年，他担任安徽藝術學校、安徽大學藝術學院戲音教研室主任，现在虽然退休，但仍然担任中國戲曲學院、安徽大學藝術學院客座教授一职。