苏联大清洗使得苏联损失了图哈切夫斯基，，等一大批军事将帅，曾经让欧洲震颤的苏联红军被一片阴云笼罩，而一个幸运儿却三次在大清洗中逃过了枪决，后来还在二战中屡立战功，成为了苏联元帅，他就是以苏联元帅之身出人波兰国防部长的。
罗科索夫斯基是一位富有传奇色彩的二战名将，他不但是苏联元帅，在苏军中担任过多种要职，而且曾任波兰部长会议副主席兼国防部长，获得过波兰元帅军衔。他在格勒和中的杰出功绩，使敌人闻风丧胆。
1896年12月21日，罗科索夫斯基生于俄罗斯普斯科夫州大卢基市，母亲是俄罗斯人，但父亲是波兰人，因此他与波兰有着密切的联系。
罗科索夫斯基年仅14岁就成了孤儿，不得不以当建筑工人糊口度日。1914年，年仅18岁的罗科索夫斯基进入沙俄军队服役，在这一年的年底被提升为军士，参加了第一次世界大战。十月革命爆发后，他于1918年参加了赤卫军，并于1919年加入了共产党。国内战争期间，他历任骑兵连、营、团长，因在同白卫军的作战中表现英勇而两次荣获红旗勋章。1930年提升为骑兵师长，1936年升为骑兵第5军军长。
1937年，在席卷苏联全军的清洗浪潮中，罗科索夫斯基也未能幸免，他因“骑兵军的供应工作管理混乱”的莫须有罪名而被逮捕，遭受了拷打并被投入监狱，直到1940年才被释放出狱，重新开始工作。这一年11月，他出任驻乌克兰的机械化第9军军长。
苏德战争爆发后，罗科索夫斯基的军事才华得以充分显示。1941年7月11日，即战争爆发后仅20天，他升任西方面军第16集团军司令，率部参加了莫斯科保卫战。在此次会战中，他在沃洛科拉姆斯克方向首先以纵深反坦克防御，有效地抗击了敌军的坦克突击，随后在反攻时，在集团军内建立了两个快速集群，把正面突击同迂回包围巧妙地结合起来，将苏联军事学术的重要原则加以创造性地发挥和运用，取得了重大战果。
1942年7月，罗科索夫斯基胜任布良斯克方面军司令，9月调任顿河方面军司令，参加。在会战的反攻阶段，他指挥部队同西南方面军和斯大林格勒方面军部队，突破敌防御，随后在顿河和伏尔加河之间地段包围了敌重兵集团。1943年1月8日，罗科索夫斯基要求德第16集团军司令将军投降，但遭保卢斯拒绝。两天以后，苏军发动进攻，最终包围并全歼了保卢斯的部队。
1943年2月，罗科索夫斯基调任中央方面军司令，在库尔斯克会战中率部挫败了德军的反扑，并在反攻中粉碎了敌奥廖尔集团。他在会战期间组织实施的1943年7月5日的炮火反准备，以及同年8月底该方面军实施的兵力兵器由谢夫斯克向格卢霍夫方向的机动，显示了高超的军事指挥艺术，为苏联军事学术的发展作出重要贡献。
库尔斯克会战胜利结束后，罗科索夫斯基于1943年10月任白俄罗斯方面军司令，1944年2月任白俄罗斯第一方面军司令，率军向华沙挺进。但是，正当苏军兵临华沙城下，波兰地下抵抗组织举行抗击德国占领的华沙起义之时，斯大林却下令让苏军停止行动的，没有对起义者作出响应，坐视华沙起义的失败。罗科索夫斯基因此而受到外界的严厉指责，他辩解说，部队由于连日征战，已经筋疲力尽，不得不进行休整，因此无法向起义者提供帮助。他还表示华沙起义实际上只是波兰地下抵抗组织耍的政治手腕。这件事招致了波兰人民的强烈不满，成为苏波两国的历史积怨，对以后苏波关系的发展产生了极为不良的影响。
1944年11月，当东欧战事快要结束时，罗科索夫斯基调任白俄罗斯第2方面军司令，白俄罗斯第1方面军司令一职改由担任。斯大林作出这一调整的初衷可能是想让朱可夫独享攻占柏林的荣誉，但实际上罗科索夫斯基和后来也都率军参加了柏林战役。
1945年6月24日，是罗科索夫斯基一生中最为光辉的日子，这一天，他在莫斯科红场主持了胜利阅兵式，率领红军接受了斯大林的检阅。在这次阅兵式上，红军战士将在战场上缴获的数百面德军军旗掷到了列宁墓前，重演了历史上俄军将缴获的军旗掷到亚历山大一世沙皇脚下的光辉一幕，阅兵仪式达到了高潮。
罗科索夫斯基以性格倔强、敢于坚持己见而著称。他曾在政治风波中被捕入狱，深切体会到得罪斯大林将意味着什么，但狱中的这段经历非但没有使他变得谨小慎微，而且将他磨炼得更加坚强。
在1944年5月的一次会议上，罗科索夫斯基告诉斯大林他准备同时在两个地段突破敌军的防御，斯大林听后表示应该集中兵力于一个地段，罗科索夫斯基这时并没有像绝对多数的苏军将领那样对斯大林言听计从，而是坚持说在两个地段同时实施打击更为可取。斯大林有些不耐烦，让他出去好好考虑一下再回来。
罗科索夫斯基到了隔壁房间，但无论如何也无法说服自己，他回到会议厅，告诉斯大林，“同时在两个地段实施打击更为可取，斯大林同志。”斯大林再次反驳说应该集中兵力实施一次打击，但罗科索夫斯基仍坚持己见。随后会场出现了长时间的静默，斯大林让他再出去考虑一下，不要过分固执。
这次和马林科夫也随他一同出去，严肃地警告他顶撞斯大林的危险性。马林科夫严厉地命令道：“同意斯大林的观点，其他什么也不要讲。”他们回到了会场，斯大林问罗科索夫斯基把问题想清楚了没有，罗科索夫斯基说他认为还是在两个地段同时实施打击更好些。斯大林问道：“那么依你的观点，应以哪一次打击为主”罗科索夫斯基回答说两次打击同样重要。会场再次出现静默。罗科索夫斯基知道，这通常是斯大林爆发狂怒的前兆。斯大林沉默了很久，最后说道：“难道真是同时实施两次打击更好些吗”他最终同意了罗科索夫斯基的计划。这是斯大林被别人说服少有的几次例外之一。
事实证明，罗科索夫斯基的这个具有独创性的计划，即在“”战役中以白俄罗斯第1方面军部队同时实施两次强大的向心突击，不但突破了敌坚固防御阵地，而且合围并歼灭了敌军6个余师，为尔后苏军解放明斯克，重创敌重兵集团，进而解放白俄罗斯全境和波罗的海沿岸地区，将战线推进到波兰境内创造了极为有利的条件，显示了罗科索夫斯基高超的统帅艺术。
第二次世界大战结束后，罗科索夫斯基任苏联北部军队集群司令。由于他具有波兰血统，1949年10月被安排担任波兰人民共和国部长会议副主席兼国防部部长，获波兰元帅军衔，并被选为波兰统一工人党中央政治局委员、议会议员。但此后波兰反对苏联控制的斗争日趋激烈，而罗科索夫斯基担任波兰国防部长一职被波兰人视为苏联控制的象征。1956年，苏联被迫将他召回，回国后任苏联国防部副部长，1957年起兼任总监察长。1962年起任国防部总监组总监。1968年8月3日，罗科索夫斯基在莫斯科去世，葬于红场克里姆林宫墙下。他生前曾两次荣获“苏联英雄”称号，并获苏联“胜利”最高军功勋章。