他的家乡深受庐剧的影响，他在那儿的童年是与庐剧音乐共度的。1958年，他凭借精通二胡，进入了安徽省艺校。在那里他学习了三年庐剧音乐，并学会了作曲。他曾说自己对庐剧的热爱远超黄梅戏，当时只有他一人坚持学业，而其他同伴都放弃了。不过就在他即将展现才华的时候，学校突然撤销了庐剧专业。当时何合浓被分配到庐剧团，而徐代泉却被留校担任教学工作。这让他感到迷惑，但学校领导解释：“我们要为庐剧培养人才。”然而，这个种子未能成长、开花、结果。直至1993年，省艺校才再次招收庐剧班，那些年的时间里徐代泉一直没有机会应用自己的知识。最终，他决定转向黄梅戏。但是，库布和黄梅戏之间存在巨大的差异，以此作为跳板迅速掌握新艺术形式的是一个艰难而又辛苦的过程。

为了尽快融入这个新的世界，他采取了一种笨拙但有效的手段——与黄梅戏表演班一起上唱腔课。当老师教授时，他不仅听着，还边记谱边学习。由于他的天赋和努力，他比那些十几岁的小朋友还要快地掌握知识，不久后学院中的所有黄梅戏教学曲目几乎都是由他创作完成。

这一切都充满挑战，因为从事音乐创作的人们往往面临贫困和孤独。而且，与许多作曲家一样，徐代泉投入到创作中全身心、无限情感。在写作遇到瓶颈时，有时候会连续七八天无法写下一句歌词。那时候的心境就像是在梦中醒来，又像是清晨第一缕阳光，每一次呼吸每一步走路，都仿佛想着那个作品，就像走火入魔一样。而当作品完成后那种轻松愉悦难以言喻，只有听到演员录音后，用耳机细听那些旋律，那份陶醉之情也只能用心去体会。

徐代泉回忆说，在他的生活中有三个主要任务：教育、创造和研究。教育是他的职业之一，不仅在本校教书还是中国戏曲学院客座教授，即便退休也不闲坐一日。他在创意方面除了为电视电影及舞台制作音乐外，还为60多部教学材料编曲，其中包括各种各样的京劇、泗州戲等等。此外，在研究领域内，从1987年至1994年间，徐代泉参与国家重点项目《中国戲曲音樂集成·安徽卷》的編纂工作，并主导“泗州戲”、“安慶弹腔”的编纂获得“編纂成果二等獎”。

谈起安徽地区著名的黃梅戲電視劇之一不可不提到的就是由於其創立的大量黃梅戲電視劇，如《桃花扇》、《半把剪刀》、《家》、《春》、《秋》、《啼笑因缘》、《二月》、《潘張玉良》、《祝福》，这些作品广受欢迎，是對黃梅戲音樂藝術貢獻卓越的一位人物。他現在65歲仍然活跃于學術界，一直担任过近20年的院系主任职务，现在虽然退休，但依然担任中国戏曲学院及安徽大学艺术学院客座教授角色。