于北海学之最久，反复习之。以宋之米氏、元之赵氏、明之王觉斯、董思白诸公，皆力学之。”其学书临古之脉络如此。可见林散之思想开明，是以兼融并取的态度广为取法古人的。他无论碑、帖，无论何家何派，各取其所长。对隶、真、行。草诸体，终其一生，苦心钻研。唯于篆书，他末提及。曾见其所书，亦甚有功力，趣味不凡，笔法得自其师黄宾虹。
林散之曾自言其十六岁写柳公权《玄秘塔》，其结体秀峭，用笔瘦硬，对他后来个性风格的形成，奠定了基调。这时，他得到了范培开的指授。十八岁后又从张栗庵学诗古文辞，书法亦获其教导。张氏书宗晋唐，于榕遂良、米海岳尤精至。在法度与文人气息上均对他有很大影响；从其二十余岁时画上题字与真书诗稿《四时读书乐》中分明可见。他又于魏碑下过很大功夫，尤其对《张猛龙碑》用功最多，此碑体态较修长、舒展，点画亦较瘦硬，正可与柳体互补，更增奇姿异态。林书风格主要以此二碑立骨。而他“于李北海学之最久”，所取乃是北海书体势宽博中见紧密，秀中藏拙的意态。
林散之书法总体上说，是以南北朝晋唐碑刻筑基，又从《阁帖》学晋人书，并取法唐、宋、元、明诸名家手札，得其意韵，同时临习汉隶名碑，数十年不辍，故其书刚中见柔，兼有碑之骨、帖之韵，又渗透着汉隶朴拙之意。其书，不仅创作，即临写各体碑帖，凡粗壮风格者，其笔下所临皆趋于瘦硬。他信奉杜甫所谓“书贵瘦硬始通神”的审美观念，这也是其书风格的基本特点。
从师黄宾虹，对其书法风格的形成与发展具有重大的意义。黄氏对笔墨技巧的钻研为现代之冠。林散之论书有“笔从曲处还求直，意入圆时更觉方”句，这一笔法原理来自黄宾虹对他的指教与影响。他自师从黄宾虹后，不仅画入其门，书亦得其法。其书用笔与体势在很长时期内颇近于黄体，曲中求直，圆中求方，无论纵横，均不直过，疾涩相应，强调对折钗股、屋漏痕意理的感悟。即晚年所书字形虽不似黄体，但笔法仍守黄书之神髓，可见其善学。
林散之自言：“六十岁前，我游骋于法度之中。六十岁后稍稍有数，就不拘于法。”观其作品，确如其言。大约此前的作品，虽格调、意韵甚好，但用笔与结字均在高度的理性把握之中，观赏时可以感觉得到。六十岁后所书循法度而能轻松自如，游刃有余，从而有天趣流露，此即其所谓“不拘于法”。大约七十岁后所书，强调个性、追求天趣成为其审美的主导倾向，创作中用笔大为放开，不同状态下作书即有不同的情意介人，故作品一时有一时之气象。八十岁后进入自由之境，作书时已无法度意识，落笔皆随意、随兴为之，出神入化，意趣天成。此时作品，笔墨变化妙不可言，往往不见点画与结字形态之具象，但其虚灵超脱的墨象似无意中受看法度的调控，有无尽的内蕴，令人捉摸不透，玩味不尽。这是林散之书法艺术发展的最高阶段、最高境界。这是足以笑傲于中国书法史的、不同于古今书坛所有大家的独到境界。
林散之中年时代的行书基本面目是米芾、董其昌和黄宾虹的合成。后又钻研王铎的行书与草书。关于他学草书的年龄，其自言：“我到六十岁后才学草书，有许多甘苦体会。没有写碑的底子，不会有成就。”他学书数十年，常写碑，旨在锤炼其书法线条的力度、涩度、厚度与拙朴趣味。所谓“六十岁后才学草书”当指其六十岁后才以草书为专攻。现存他三十余岁时的草书作品已颇见功力，四十余岁所作草书已形成其个人风格的基本模型，大抵为黄宾虹笔法与怀素草书体势相渗透。六十岁后，他将主攻目标转向了草书，对书体中难度最高、艺术抒情性最强的草体作最后的冲刺。以攀登书法艺术的最高峰。
在这最后阶段，他谋求诸家草法的溶合，尤其是将怀素与王铎两家草法加以变通。他对王铎草书有深刻的认识。王铎草书承继二王、怀素，并合以米芾笔法，精熟至极，奇巧至极，真可谓无以复加，走其老路，恐难以再创新境。于是，他反其道而行之，加以变长法。其以隶意入草，涵溶于笔墨之间，无一生硬之迹，非深识其书者，难以看破。他以深厚的汉隶功力来改造王铎草法，返熟为生，以拙破巧，从而造就了林散之草体。这是他独具胆识与创意之处，并取得了极大的成功。
1972年底，《人民中国》杂志选拔现代中国书法精品向日本介绍，林的草书作品得到郭沫若、赵朴初、启功诸位权威人物的高度赞誉，名列榜首，代表现代中国书法的最高水平，其历史意义十分重大。那一幅作品确可以称之为林散之书法衰年变法前期的代表作。其在有意无意间，既循法又破法，随意自如，时出天趣，又恰到好处，令人赞叹不已。
但林散之并末以所获殊荣为满足，他对越来越多的赞扬声和越来越高的社会地位淡然处之，默不作声地、我行我素地向自己认定的更高境界不懈追求，使其书法在八十岁前后全面进入化境。他在七十人岁时曾有感赋诗一首：“不随世俗任孤行，自喜年来笔墨真。写到灵魂最深处，不知有我更无人。”可见其对性灵境界的追求毫不含糊，他视书