崇安吴屯乡潘村人，出生于贫苦农民家庭，排行老三。一家人耕种8亩轮种的祭田，过着缺衣少食的贫苦生活。

民国17年(1928年)春，共产党员江和生、徐日荣住在他家宣传革命道理，使他心里逐渐亮起来，认识到要让穷苦人过上好日了，就必须彻底推毁万恶的旧社会。随后，有贵参加游击队。战斗中，他狠冲猛打，“邱大胆”的称号，名闻四乡。在革命队伍，他阶级觉悟日益提高，在斗争中不断增长才干。翌年加入中国共产党，先后担任乡苏维埃政府军事部长、建阳县苏维埃政府第一任主席、中共建阳县委书记。当时建阳苏区在王明“左”倾路线支配下，革命组织遭到严重摧残。他十分感慨地说:“自己糟蹋自己，互相残杀，革命怎能胜利?”在严峻的党内斗争面前，他挺身而出，毅然和县委领导汪林兴一起保护了不少革命同志。有贵接任建阳县委书记后，重新组建红军独立营，转战闽北山区，保存壮大革命有生力量。

民国27年4月27日凌晨，国民党顽固派背信弃义，指挥麻沙警备连王麻子排和民团突然包围中共建阳县委驻地麻沙梁仰村。在突围中，寡不敌众，年仅30岁的有贵为建阳人民革命斗争献出了宝贵的生命。