他的父亲刘仁安迁居福建，以经商为生。刘谦从军，初任为广州牙将。据《刘华墓志》载刘安“大中、咸通之际，继有恩命而褒赠焉。刘谦龙纪中自诸卫将军拜封州刺史，终于所任。”刘谦的记述有《资治通鉴》可以为其佐证，因击群盗有功，才一`拜封州刺史，但非龙纪中拜官，而是中和三年（883年）。“中和三年（883年）六月，……谦击群盗，屡有功，辛丑，以谦为封州刺史。'在其发迹之前还曾得到京兆大族城南韦氏之后韦宙的欣赏，将侄女嫁与为妻。还说：“此人非常流也，他日吾子孙或可依之”。韦氏将后代托与小校刘谦恰恰说明这一时期社会动荡给世家大族垄断政权带来的冲击，即使贵为京兆韦氏也不得不下嫁于无名小卒，婚姻门第观念也不得不让位于现实的乱世局面。当时黄巢率部转战南方，遇到瘟疫。因邀击黄巢有功，882年任封州刺史、贺江镇遏使，有兵万人，战舰百余艘。

刘谦在封州励精图志，“抚纳流亡，爱音用度，养士卒。未几，得精兵万人，多具战舰，境内肃然”。这些措施使封州的经济、军事实力蒸蒸日上。乾宁元年（894年）冬12月，刘谦就病逝了，临终告诫其子“今五岭盗贼方兴，吾有精甲犀械，尔勉建功，时哉不可失也。”刘谦一死，自然也免不了唐末以来牙将时常叛乱的规律，但很快被其长子刘隐所镇压，“一夕尽诛之”，迅速稳定了局势。节度使刘崇龟闻其才，召补为右都押牙，不久，袭其父职为封州刺史。史载“乾宁元年（894年）冬年，封州刺史刘谦卒，子隐居丧于贺江，士民百徐人谋乱，隐一夕尽诛之。岭南节度使刘崇龟召补右都押牙兼贺水镇使未几，表为封州刺史。”，917年，刘䶮称帝，国号汉，史称为南汉。追尊刘谦为圣武皇帝，庙号代祖。

对于刘谦及其父亲刘安之姓名，各书记载不一，有刘知谦、刘谦、刘安仁、刘仁安等说法。现据《刘华墓志》载“曾祖讳安，……祖讳谦，字内光”，可纠正史诸多记载，父子原名为刘安、刘谦。

妻子

韦氏

儿子

三子刘隐、刘台、刘䶮，刘隐继位。刘隐即韦宙侄女所生。