传说，南宋绍熙年间，皇帝宋光宗最宠爱的黄贵妃病了，御医用了许多贵重药品，贵妃病仍不见好。后来请了一位游方道士为贵妃诊治。他为贵妃诊脉后说：贵妃病因食油腻过多造成，只能将山楂与红糖煎熬，每饭前煎5～10枚，半月后病定会好。按此方治，半月后贵妃果真病愈。从此，冰糖葫芦成为宫廷中的佳果，并逐渐流传开了。冰糖葫芦最早出现在南宋饮食市场中，当时名叫蜜弹弹，它是由单个山楂沾糖而制成。
到明末清初，人们将山楂去核，用竹棍穿心，挂上糖衣，制成长达数尺的糖葫芦串在市场出售。三尺动摇风欲折，葫芦一串蘸冰糖。就是当时一位诗人对冰糖葫芦的描写。