1905年出生于江苏省宿迁县。1924年中学毕业后，考入广州大学读书。1926年去苏联，入莫斯科中山大学学习。同年加入共产主义青年团，后入苏联炮兵学校学习。1928年加入苏联共产党。1929年回国后转为中共党员，任党中央军委作战参谋、中共长江局军委秘书长、红十五军政委、五军团政委、一军团政治部主任等职，参加了二万五千里长征。抗日战争期间，任中共北方局军委书记、山东八路军一纵队政委、中共山东分局书记。一九四三年秋赴延安，后入中央党校学习。一九四五年出席党的第七次全国代表大会。同年8月，任延安炮兵学校代理校长。抗日战争胜利后，任东北人民解放军炮兵司令员兼炮兵学校校长。1948年秋，在辽沈战役中，率领炮兵部队密切配合步兵部队仅用4个小时就解放了义县，全歼守敌1万余人，创造了攻坚战中迅速歼敌的纪录。10月1日，朱瑞在视察炮兵攻打突破口时，不幸触雷牺牲，时年43岁。朱瑞同志在长期革命斗争中贡献重大，对我军的炮兵建设功绩卓著。