他的家乡深受庐剧的影响，他在那儿的童年是与庐剧音乐共度的。1958年，他凭借精通二胡，进入了安徽省艺校。在那里他学习了三年庐剧音乐，并学会了作曲。他曾说自己对庐剧的热爱远超黄梅戏，当时只有他一人坚持学业，而其他同伴都放弃了。不过就在他即将展现才华的时候，学校突然撤销了庐剧专业。徐代泉被留校成为教师，这让他感到困惑，但学校解释说这是为了为庐剧种下一个种子。而那个种子却未能成长到发芽、开花、结果。这段时间里，直至1993年学校再次招收庐剧班，徐代泉一直等待着这个机会，但最终决定转向黄梅戏。

然而，从庐剧迁移到黄梅戏并非易事，因为两者有根本不同之处。为了尽快掌握新技能，徐代泉采取了一种笨拙但有效的手段——和黄梅戏表演班一起上唱腔课。他不仅听着老师讲述，还亲自记谱。由于他的技艺过硬，他比十几岁的小学生还要快地掌握知识，最终在艺术院校内几乎所有的黄梅戏教学曲目都是由他创作完成。

从事这项工作既苦又难。在漫长而艰辛的创作过程中，有时候会连续几个晚上无法写出任何音符。当作品完成后，那份满足感是难以言喻的。一旦录制完毕，再细心聆听那些唱段，那份陶醉之情也是难以形容。

一生中，徐代泉致力于三个方面：教学、创作和研究。作为教职员工，不仅在本校教授，还担任中国戏曲音乐学院客座教授，即便退休，也没有闲暇时间。他在创作上除了电视及舞台版 黄梅戲音樂劇外，还为六十多部教学用劇目的配樂，其中包括黃梅戲、布衣戲、京劇、泗州戲、皖南花鼓灯、高邮梆子等多个剧种。此外，在1987至1994期间，他参与编纂《中国戲曲音樂集成·安徽卷》，并主导编撰“泗州戲”、“安慶弹腔”专篇，为该项目获得“編纂成果二等獎”。

提起安徽地方特色電視黃梅戲作品，无人不知其巨匠之一——著名歌曲家兼導演徐代泉先生。他創作過如《桃花扇》、《半把剪刀》、《家》、《春》、《秋》、《啼笑因缘》、《二月》、《潘张玉良》、《祝福》等十幾部黃梅戲電視專輯（含合作）。現在65歲高龄的徐代泉先生曾經擔任過安徽藝術學校與安徽大學藝術學院聲樂教研室主任達二十餘年，其後退休仍然擔任中國大陸國家級學府中國舞蹈學院以及浙江大學藝術學院客座教授一職。