费。”固辞不受。至郡，布恩惠之化，蛮獠怀之，竞饷金宝，谦慰喻而遣，一无所纳。及掠得生口，皆放还家。俸秩出吏民者，悉原除之。郡境翕然，威信大著。视事三年，征还为抚军中兵参军。元徽初，迁梁州刺史，辞不赴职，迁越骑校尉、征北司马府主簿。建平王将称兵，患谦强直，托事遣使京师，然后作乱。及建平诛，迁左军将军。
齐初，为宁朔将军、钱唐令，治烦以简，狱无系囚。及去官，百姓以谦在职不受饷遗，追载缣帛以送之，谦却不受。每去官，辄无私宅，常借官空车厩居焉。永明初，为冠军长史、江夏太守，坐被代辄去郡，系尚方。顷之，免为中散大夫。明帝将废立，欲引谦为心膂，使兼卫尉，给甲仗百人，谦不愿处际会，辄散甲士，帝虽不罪，而弗复任焉。出为南中郎司马。东昏永元元年，迁囗囗大夫。
天监六年，出为辅国将军、零陵太守，已衰老，犹强力为政，吏民安之。先是，郡多虎暴，谦至绝迹。及去官之夜，虎即害居民。谦为郡县，常勤劝课农桑，务尽地利，收入常多于邻境。九年，以年老，征为光禄大夫。既至，高祖嘉其清洁，甚礼异焉。每朝见，犹请剧职自效。高祖笑曰：“朕使卿智，不使卿力。”十四年，诏曰：“光禄大夫孙谦，清慎有闻，白首不怠，高年旧齿，宜加优秩。可给亲信二十人，并给扶。”
谦自少及老，历二县五郡，所在廉洁。居身俭素，床施蘧除屏风，冬则布被莞席，夏日无帱帐，而夜卧未尝有蚊蚋，人多异焉。年逾九十，强壮如五十者，每朝会，辄先众到公门。力于仁义，行己过人甚远。从兄灵庆常病寄于谦，谦出行还问起居。灵庆曰：“向饮冷热不调，即时犹渴。”谦退遣其妻。有彭城刘融者，行乞疾笃无所归，友人舆送谦舍，谦开厅事以待之。及融死，以礼殡葬之。众咸服其行义。十五年，卒官，时年九十二。诏赙钱三万、布五十匹。高祖为举哀，甚悼惜之。