五代時建陽人。行伍出身，體魄雄健，膂力絕群，驍勇善射，文身為虎，有“林虎子”之稱。初為閩國將領。閩亡，歸南唐，能與士兵同食均衣，在軍旅中，頗孚眾望。

五代后周顯德二年(955年)，周世宗懷著“十年開拓天下”的雄心壯志，于十一月揮軍進逼淮河流域，進攻壽春(今安徽壽縣)。仁肇奉命援救壽春，收復濠州(今鳳陽)水寨，以功授淮南屯營應援使。為破壞正陽橋糧道，仁肇率千人敢死隊，逆風舉火，未能焚毀木橋而后撤。后周附馬、殿前指揮使張永德追擊仁肇，頻頻發箭，都被擋去。永德吃驚道:“對方有能人，不可輕敵。”遂退兵。后仁肇升任潤州(治所鎮江)節度使，不久，移任武昌節度使。

北宋建隆二年(961年)，南唐李煜即位，先后任命仁肇為南都(今南京)留守、南昌府尹。開寶四年(971年)，仁肇向李煜獻策:北宋連年征戰，師旅憊，淮南防務空虛，愿得精兵數萬，渡江北上，立足淮南重鎮壽春，以便收復淮河失地。若擔心勢不能敵，于國不利，可在我起兵之日，將我眷屬拘捕下獄，然后再向宋朝廷上表，指控我竊兵叛亂。事成，國家或可受益;事敗，我甘愿受殺身滅族之禍。但李煜未受納。

宋太祖要統一江南，就要除掉仁肇。于是派人到南昌僧院，竊得仁肇畫像，懸于別室。一日，趙匡胤接見李煜胞弟從善，指著仁肇的畫像說:“仁肇將前來投降，先持此為信物。”并說:“將以此館賜予仁肇，以酬其歸宋的忠心。”從善信以為真，將讒言秘密傳回金陵(今南京)，使李煜酰殺仁肇。

仁肇之死，毀掉南唐抗敵長城，南唐翰林學士承旨、門下侍郎兼樞密使陳喬為此嘆息說國家形勢到了這種地步，還慘殺忠良，真不知道何處是我葬身之地!