其父在南京经营剧场，因此乔慧杰自十岁时便在南庙小学的学习之余，与孟燮卿老师学习京剧，一年后，他的父亲又请了一位专业教师来家中授课，专门教授戏曲艺术。随着年龄的增长，乔慧杰于十三岁辍学，在厉家班接受了系统的戏剧培训，并取艺名为乔慧杰。在抗日战争期间，他随班社前往四川和云南演出，直到19岁满师归乡后，又加入了刘家班，在重庆继续他的演艺生涯。抗战结束后，乔慧杰返回故乡南京，在江苏一带进行各种表演活动。建国之后，他分别在芜湖、九江和安庆等地展开了广泛的巡回演出。

1952年，乔慧杰参加了安徽省举办的一期暑期艺术培训班，这里他不仅学习了新的表演技巧，还担任京剧队副队长一职。在此基础上，他于1953年的4月被调入安徽省黄梅戏剧团，不仅担任导员工作，而且负责新进入团队成员们基本功训练与教学工作。这一年他还与李力平合作，将经典作品《天仙配》进行改编，并在其中创作并指导了一系列精彩绝伦的集体舞蹈。此后，他又执导了一系列其他黄梅戏，如《告粮官》、《女驸马》、《罗帕记》、《荔枝缘》、《碧玉簪》以及《刘三姐》，并且参与拍摄过梆剧电影《寇准背靴》，以及电视连续剧《严凤英》的戏曲技术指导工作。