民間相傳，連公早年為佛家比丘，因緣際會得以至閭山學法，許真君外出時，曾託連公代理法主九日，故人尊稱之「九天法主」。連公與臨水夫人陳靖姑結義，相約降妖除魔，靖姑作法祈雨，卻遭暗算，沈入水底，感通許真君，許真君命代理法主的連公急往救之，連公坐鎮閭山，無法親往，於是念動真言調動閭山大將——王楊二太保前去，二太保脫下草鞋，變成四隻母鴨，咬住陳靖姑所乘的草蓆四邊角，方救得靖姑。
有一次陳靖姑追殺蜘蛛精，卻被困洞中。靖姑咬破手指，化出血雲，召連公相援。連公見天上紅雲，即刻前去，倉卒之間，忘了帶兵器，於是念動法訣，以額撞破洞門，終於送兵器給靖姑，靖姑將蜘蛛精鎮死於仙人潭底。
宋太祖乾德二年（946年）羽化升天，高壽八十有三歲。