1906年5月31日生于四川省南充市舞凤乡清泉坝。

1924年在张澜创办的南充中学读书时参加爱国学生运动。

1926年加入中国共产主义青年团，同年底考入在武汉的中央军事政治学校（即黄埔军校），参加过军校讨伐夏斗寅的战斗，7月15日军校被改编为张发奎部队的教导团，8月2日，张发奎在九江将教导团缴械，他离队回武汉寻找中共党的组织。

1928年10月在上海加入中国共产党。

1929年春被派往闽西，组建和训练游击队，任闽西红军第五十九团参谋长，率部配合中国工农红军第四军开辟闽西苏区。6月，随部队编入红四军，任支队党代表。年底参加中共第四军第九次代表大（古田会议），会后任第二纵队政治部主任，与政委罗荣桓积极贯彻古田会议精神，加强政治工作建设，使部队获得很大进步。

1930年6月，任二纵队（后改为十一师）政委。

1931年5月，在中央苏区第二次反“围剿”中头部负重伤，并发大叶性肺炎，后痊愈。

1932年3月任第四军政委，率部参加漳州战役，进驻海边的石码。6月任第一军团政治保卫局局长，曾与参谋长徐彦刚率七师、九师作为一军团的右翼参加第四次反“围

红大一期一科同学们剿”中的登仙桥伏击战。

1933年8月，获二等红星奖章。长征中曾任红军先遣队参谋长、陕甘支队第二纵队政治部主任。到达陕北后任第一方面军政治保卫局局长。

1936年6月任中国人民抗日红军大学教育长，西安事变后曾赴西安协助周恩来进行统一战线工作，1937年2月回延安后任抗日军政大学教育长、副校长，主持抗大工作。

1938年在毛泽东指导下写成《抗日军队的政治工作》一书，向全国介绍人民军队的政治工作经验。

1939年7月率抗大总校和延安其他学校数千名教学员工到华北敌后办学，途经陕西、山西、河北三省三十个县，行程三千里，通过同蒲、正太两条铁路封锁线，人称小长征。

1940年5月任八路军野战政治部主任，转战太行山区，参与了百团大战的指挥和多次反“扫荡”，在此期间，他总结抗日游击战争政治工作的经验，撰写了《目前政治工作建设上的一些问题》等多篇著作，为人民军队政治工作建设做出贡献。

1943年回延安入中央党校学习。

1945年6月被选为中共第七届中央候补委员。

抗日战争胜利后，任北平军事调处执行部中共代表团参谋长，协助叶剑英同国民党方面和美国方面的代表进行谈判。

解放战争中，历任中共晋察冀中央局副书记、晋察冀军区副政委兼政治部主任、晋察冀野战军政委、华北军区政治部副主任兼第二兵团（后改为第十九兵团）政委，参与指挥正太、石家庄战役。在平津战役中与杨得志等率部在新保安围歼国民党第三十五军，对促成北平的和平解放起了重要作用。

1949年春参与指挥太原战役。

1949年6月，负责筹建公安部，中华人民共和国成立后任公安部部长、政治法律委员会副主任、公安军司令员兼政委，开创国家的公安和国家安全事业，在十年内形成国家良好的社会治安秩序。

1955年被授予大将军衔。

1959年4月任国务院副总理。

1959年9月任中共中央军委秘书长、中国人民解放军总参谋长、国防部副部长。

1961年11月兼任国防工业办公室主任，他参与组织战备，指挥海防和边防作战，组织领导尖端武器及常规武器的研制和生产。

1964年和贺龙等领

罗瑞卿珍贵照片集导全军性的练兵和比武，取得很大成绩。他坚持军事和政治的辩证统一，提倡学习马列主义、毛泽东思想要联系实际，反对把学习毛泽东思想庸俗化。

1965年底被林彪等人诬陷，受到错误批判，被迫跳楼自杀，经历了三次大难而不死。“文化大革命”中受残酷迫害，左腿致残。

1977年，复任中央军委秘书长，协助邓小平领导军队的整顿，积极参加和领导“实践是检验真理的标准”问题的讨论，提倡恢复和发扬实事求是的思想路线，为中共十一届三中全会的召开准备条件。

是中国共产党第八届中央委员和中央书记处书记，第十一届中央委员。

1978年7月前往联邦德国治疗腿疾，8月3日凌晨因心脏病突发而不幸逝世。 

1978年8月12日，邓小平在罗瑞卿同志追悼大会上的悼词中称罗瑞卿为“无产阶级久经考验的忠诚的革命战士、解放军的杰出领导人、伟大导师毛主席的好学生”。