其高祖父林应寅于清乾隆四十三年(1778年)东渡台湾淡水新庄,以教书为生,为“台湾板桥林”的始迁祖。曾祖父叫林平侯,经营盐业发财,捐官广西柳州知府,告老回台湾后,广买从淡水到宜兰的大片土地,年收租谷达数万石。其子林国华于清咸丰三年(1853年)迁台北板桥,开发板桥一带的荒山野岭,遂成巨富,大造园林,后称“林本源花园”。林国华生二子,长林维让,次林维源。林维让便是林尔康的父亲。捐清廷军饷2万两银子,奖“三品衔”。至林尔康兄弟,已历五世,凡二百多年,聚族而居,称台湾板桥林氏,被誉称为“台湾首富”。
林尔康,秉性严肃,不苟言行,勤于学,经史百家无不涉猎;年未冠,即以淹博惊人,偶为诗,工书法,喜作汉隶,遒劲高古。娶陈宝琛幼妹陈芷芳。父逝后,尔康遵遗训主持家政,凡所开支,务绝糜费,唯好义举。他曾告家人说:“富贵无常,惟有德者可以保长久。”光绪十七年(1891),淡水各村时疫流行。当时台湾经济凋零,既缺名医,又缺良药。尔康差专人返回大陆购办著誉丹膏,在六桥馆设施医施药所,日夜救治,活人无数。疫平,民皆德之;尔康以为此系本分所在,不肯称功。甲午战后,时逢割台,林氏举家内渡,先住厦门。不久,尔康病卒,年32岁。