五代时建阳人。行伍出身，体魄雄健，膂力绝群，骁勇善射，文身为虎，有“林虎子”之称。初为闽国将领。闽亡，归南唐，能与士兵同食均衣，在军旅中，颇孚众望。

五代后周显德二年(955年)，周世宗怀着“十年开拓天下”的雄心壮志，于十一月挥军进逼淮河流域，进攻寿春(今安徽寿县)。仁肇奉命援救寿春，收复濠州(今凤阳)水寨，以功授淮南屯营应援使。为破坏正阳桥粮道，仁肇率千人敢死队，逆风举火，未能焚毁木桥而后撤。后周附马、殿前指挥使张永德追击仁肇，频频发箭，都被挡去。永德吃惊道:“对方有能人，不可轻敌。”遂退兵。后仁肇升任润州(治所镇江)节度使，不久，移任武昌节度使。

北宋建隆二年(961年)，南唐李煜即位，先后任命仁肇为南都(今南京)留守、南昌府尹。开宝四年(971年)，仁肇向李煜献策:北宋连年征战，师旅惫，淮南防务空虚，愿得精兵数万，渡江北上，立足淮南重镇寿春，以便收复淮河失地。若担心势不能敌，于国不利，可在我起兵之日，将我眷属拘捕下狱，然后再向宋朝廷上表，指控我窃兵叛乱。事成，国家或可受益;事败，我甘愿受杀身灭族之祸。但李煜未受纳。

宋太祖要统一江南，就要除掉仁肇。于是派人到南昌僧院，窃得仁肇画像，悬于别室。一日，赵匡胤接见李煜胞弟从善，指着仁肇的画像说:“仁肇将前来投降，先持此为信物。”并说:“将以此馆赐予仁肇，以酬其归宋的忠心。”从善信以为真，将谗言秘密传回金陵(今南京)，使李煜酰杀仁肇。

仁肇之死，毁掉南唐抗敌长城，南唐翰林学士承旨、门下侍郎兼枢密使陈乔为此叹息说国家形势到了这种地步，还惨杀忠良，真不知道何处是我葬身之地!