保甲并罢，凡十有八事。民间欢叫相贺。又下责躬诏求言。越三日，大雨，远近沾洽。辅臣入贺，帝示以侠所进图状，且责之，皆再拜谢。
安石上章求去，外间始知所行之由，群奸切齿，遂以侠付御史，治其擅发马递罪。吕惠卿、邓绾言于帝曰：“陛下数年以来，忘寐与食，成此美政，天下方被其赐；一旦用狂夫之言，罢废殆尽，岂不惜哉？”相与环泣于帝前，于是新法一切如故。
安石去，惠卿执政，侠又上疏论之。仍取唐魏征、姚崇、宋璟、李林甫、卢祀传为两轴，题曰《正直君子邪曲小人事业图迹》。在位之臣暗合林甫辈而反于崇、璟者，各以其类，复为书献之。并言禁中有被甲、登殿等事。惠卿奏为谤讪，编管汀州。御史台吏杨忠信谒之曰：“御史缄默不言，而君上书不已，是言责在监门而台中无人也。”取怀中《名臣谏疏》二帙授侠曰：“以此为正人助。”惠卿暴其事，且嗾御史张琥并劾冯京为党与。侠行至太康，还对狱，狱成，惠卿议致之死。帝曰：“侠所言非为身也，忠诚亦可嘉，岂宜深罪？”但徙英州。既至，得僧屋将压者居之，英人无贫富贵贱皆加敬，争遣子弟从学，为筑室以迁。
哲宗立，始得归。苏轼、孙觉表言之，以为泉州教授。元符七年，再窜于英。徽宗立，赦之，仍还故官，又为蔡京所夺，自是不复出。布衣粝食，屏处田野，然一言一话，未尝忘君。宣和元年卒，年七十九。里人揭其闾为郑公坊，州县皆祀之于学。绍熙初，诏赠朝奉郎。官其孙嘉正为山阴尉。
论曰：诲以言三黜，述、琦、顗穷厄至死，皆充然无悔，身虽不偶，而声名则昭著于天下后世矣。侠以区区小官，虽未信而谏，能以片言悟主，殃民之法几于一举而空之，功虽不成，而此心亦足以白于天下后世。吕惠卿、邓绾之罪，可胜诛哉！