太学博士。召试馆职，历诋贵戚大臣，直声暴起。改校书郎，奏言：“台评迎合上意，论罢尤焴、杨栋、卢钺三人，忠邪不辨，乞同罢。”帝不允。监察御史陈垓连劾罢之。
奉云台祠，差知南康军，迁著作佐郎兼沂靖惠王府教授，兼考功郎官，兼尚书右司员外郎。引故事弹台臣萧隶来，迁著作郎。帝怒，降两官罢叙。复知邵武军，改湖北提点刑狱，移福建，迁尚右郎官。侍御史何梦然论伯玉乃吴潜之死党，奉祀，迁福建提举常平、淮西转运判官。召赴经筵，迁考功郎兼太子侍读，拜太府少卿、秘书少监、起居郎、工部侍郎。
度宗即位，兼侍讲，权礼部侍郎，升兼同修国史、实录院同修撰。贾似道尝集百官议事，忽厉声曰：“诸君非似道拔擢，安得至此！”众默然莫敢应者，伯玉答曰：“伯玉殿试第二名，平章不拔擢，伯玉地步亦可以至此。”似道虽改容而有怒色。既退，即治归。以显文阁待制知隆兴府，右正言黄万石论罢。召入觐，擢权礼部尚书兼侍读。似道益专国柄，帝以伯玉旧学，进之卧内，相对泣下，欲用以参大政，似道益忌之，而伯玉寻病卒。
伯玉尝请罢童子科，以为非所以成人材，厚风俗。赵汝腾尝荐八士，各有品目，于伯玉曰“铜山铁壁”。立朝风节，大较似之。所著有《斛峰集》。
论曰：陆持之学足以承其家，而不幸蚤丧，徐鹿卿论议明达，克施有政，赵逢龙之清操，汝腾之不挠，孙梦观之平直，洪天锡、黄师雍、徐元杰、李伯玉皆悉心直言，不避权势，孙子秀政绩著见，皆当时之杰出云。