诗集《方棠三痴生拙稿》，内书目作诗词一百一十六首，以行书或楷书书写，大部分作了修改。其诗文老师评曰：“词旨清婉，用典浑切，凤呜高冈，自非凡响。”其平生，无时无地不在推敲诗作，如病卧时、睡梦中、吃饭时、走路时常不能自控地兴起作诗。甚至在坐马桶时也常沉思，忽觅得佳句急起身提裤去桌上取纸笔记下，以免遗忘，一时传为笑谈。
他在诗词上耗费的心血最多，体会最深，自我评价也最高。他在八十多岁时曾颇为动情他说过：“现在社会上风云变动不定，一切不与人争，只与古人争一地位。这是个目的。诗、书、画，我的诗为第一位。功夫深，用了六七十年心血。尤其‘四人帮’时，家籍被抢烧一空，唯诗稿常在身边，晚上枕头，不让遗失，保存下来，真是苦难重重。自下已蒙各方面努力，存印下来，可以留给后人看看。”
这一番话有两个要点：一是林散之治艺，志在与古人争一地位。他一生奋斗，标尺放在这一高度；二是他自评诗、书、画，以诗为第一。从其所叙保护诗稿的经过，可见其倾注感情之深。《江上诗存·启功序》中盛赞：“老人之诗，胸罗子史，眼寓山川，是曾读万卷书，而行万里路者，发于笔下，浩浩然，随意所之。无雕章琢句之心，有得心应手之乐。”赵朴初题赞中则有“老辣文章见霸才”句，评价极高。
林诗颇近于唐人白居易、宋人杨万里的情调，朴实无华、清淡中见真情。这种意境正与其个性气质相表里。可是，这饱含着老人一生才华与深挚情感的两千几百首旧体诗词，今世又有多少人能品味其妙处呢？但其抒情写意的诗词往往见题于画作上，与画境相辅相成，并臻其妙。或见之于书法作品中，其诗词的意韵成为其书法笔墨、风格的深层内蕴，故其书法艺术的形式美中充溢着浓厚的诗的韵味，此非常人所能及。故可以说，其诗韵乃其书之魂！
林散之十三岁学画人像，并学工笔人物画，后又自学山水画。二十余岁时，其书法工楷书、隶书、行书，工笔人物画师陈者莲、黄慎，山水画宗王烟客、王石谷，在皖东已小有名气。三十二岁时，经其方诗文辞老师张栗庵推介去上海投师黄宾虹，为其艺术生涯中重大转折。黄为诗、书、画、印“四合一”的艺术大师，其山水画尤为海内外所敬服。林从学两年，书画笔墨之道深得教益，眼界大为开阔，见识大为增长。又获读黄师大量藏书，并聆听教诲，学问大进。这两年的收获，对其一生艺术的攀高，具有深远的影响。
解放后，林在中国画上尝试表现现实生活，1955年创作了长卷《江浦春修图》，直接取材于宏大的修圩筑堤工程，饱含着他的切身体验和深挚情感。这幅长卷成为解放后国画界最早反映现实生活的佳作之一。
1963年，林散之应聘为江苏省国画院画师之后，曾与画院同赴苏南、苏北写生。三年间，作画甚勤。1966年“文革”浩劫开始后，所藏大量书籍、字画、碑帖被查抄焚毁，生活动荡不定。1970年全身严重烫伤，险些丧命。此后，他作书较多。而作画，未再外出写生，多追忆往昔写生印象，尤以画黄山烟云景色为多。其用笔与作书同，曲中求直，方圆相兼。水墨则竭尽干湿浓淡的交互变化，表现烟云气象的丰富意趣，从而造就其高出时人的水墨技巧，与其师黄宾虹不同。黄之墨法有苍浑之气，林之墨法则更多灵润之意。他在这一方面深切而独到的体验，施之于草书，为草书开一新境界。而其在写意山水画的意境追求上，景物造型上及布白的奇正、虚实、墨白的处理手法上所获得的深切体会，渗透其书法的字法、章法，又使其书具有了独特的个性趣味。
林散之自述：“余八岁时，开始学艺，未有师承。十六岁从乡亲范培开先生学书。先生授以唐碑，并授安吴执笔悬腕之法，心好习之广又云：“余学书，初从范先生，一变；继从张先生，一变；后从黄先生及远游，一变；方稀之后，又一变矣。”其自我鉴定书法进程为四个阶段。
他从小即勤奋习书。从现存其十七岁时自订诗稿《古棠三痴生拙稿》来看，此时不仅其诗已颇具功力与性情，其小字行草书，以《怀仁集王圣教序》为底，已颇具功力与文人气息，所书甚熟练，然点画用笔较文弱。从这本诗集手稿，可概见其“未有师承”时期至其拜师之初已达到的水平。
谈到从师于范培开所得，他自言：“我用悬腕写字全亏范先生的教导。本来我写字是伏在案上，全用笔拖，不懂也不敢悬腕。从范先生学书后方懂得悬腕之法。悬腕才能用笔活，运转自如。”这一感受十分深刻。不能悬腕，在写诗稿一类的小字时还无大妨碍，若写大一点的字，就不能贯气自如地运笔了。这一教导，使他有了远大的前途。
他又说：“余初学书，由唐入魏，由魏入汉，转而入唐，宋、元，降而明、清，皆所摹习。于汉师《礼器》、《张迁》《孔宙》、《衡方》、《乙瑛》、《曹全》；于魏师《张猛龙》、《贾使君》、《爨龙颜》、《爨宝子》、《嵩高灵庙》、《张黑女》、《崔敬邕》；于晋学《阁帖》；于唐学颜平原。柳诚悬、杨少师、李北海，而