俄罗斯队的前身苏联国家足球队是欧洲知名的劲旅，从1958年开始，俄罗斯队以及前身苏联队曾经十次打入世界杯，四次打入世界杯八强，一次世界杯第四名。1960年首届法国欧洲杯开始，十一次打入欧洲杯，是第一支夺得欧洲杯冠军的国家队，此外还获得欧洲杯亚军三次，1956年和1988年两次夺得奥运会金牌，苏联解体后俄罗斯继承了苏联在国际足联的席位。
早在沙皇当政时期，俄罗斯就开展了足球运动。有历史文献显示在当时的莫斯科和圣彼得堡举办着小型的足球联赛。但直到1912年苏联时期，他们才组建了自己的第一支国家队。苏联队参加的第一场国际比赛是奥运会的比赛，他们一比二输给了芬兰，1942年苏联国家队加入了国际足联。他们在参加的第一场比赛中二比一战胜了保加利亚。
20世纪五十年代中期到六十年代后期是苏联在世界舞台上最成功的日子。在主教练加弗里伊尔·卡萨林的带领下，他们在1958年至1962年举行的两届世界杯中都打入了八强。俄罗斯队还曾在1960年举行的首届欧洲杯中折桂，他们在决赛中二比一击败了南斯拉夫队，守门员雅辛成为了那个时期俄罗斯队的英雄。此后苏联队又分别取得1964年欧洲杯亚军，1968年欧洲杯四强的战绩，在1972年欧洲杯中他们又一次进入了决赛，但这次以失利告终，取得亚军，七十年代和八十年代俄罗斯队的表现则不像之前那么勇猛，但他们在欧洲杯中的表现比在世界杯中好。
20世纪八十年代在新教练瓦莱里·罗巴诺夫斯基的带领下，他们在1982年和1986年世界杯均小组出线闯进十六强，但都没能走得更远。1988年苏联队迎来顶峰，他们在欧洲杯中先后战胜法国、荷兰、英格兰、意大利，最后决赛中惜败小组赛的刀下鬼荷兰队，屈居亚军，也成就了荷兰三剑客的伟业，1990年苏联在世界杯中未能小组出线。
1992年欧锦赛，他们把队名改为了“独联体代表队“，独联体在这届比赛中也没有能走得太远，欧锦赛结束后，球队正式更名为俄罗斯队，国际足联把苏联队的历史计入他们名下。
1994年球队的主教练换成了帕维尔·萨迪林，俄罗斯队获得了参加世界杯的机会，他们在赛前不被看好。俄罗斯队被分在b组，同组的还有世界强队巴西和瑞典，这个小组被认为是那届杯赛中的死亡之组，果然在接连输给巴西和瑞典后他们被淘汰出局。
俄罗斯队唯一赢得的比赛是与喀麦隆队的比赛，他们以六比一的大比分横扫对手，其中奥列格-萨连科一人独进五球。由于球队表现不佳，帕维尔-萨迪林被解职。
96年欧洲杯中，俄罗斯足协任命奥列格·罗曼萨夫为主教练。在预选赛中俄罗斯表现上佳，他们以八胜两平的不败战绩名列小组第一晋级决赛圈比赛。他们在决赛圈中被分在c组，同组的还有捷克、意大利以及德国，俄罗斯在小组赛中表现糟糕。
他们三比三战平后来的亚军捷克、零比三完败德国、一比二惜败意大利之后无缘晋级淘汰赛。
1998年俄罗斯队没有晋级世界杯决赛圈的比赛，预选赛开赛前他们还被认为是晋级世界杯的热门，这次俄罗斯队的主教练是波里斯-伊格纳杰耶夫，他本有机会率领俄罗斯队去到法国，但他们在最后一轮比赛中负于意大利失去了晋级决赛圈的资格。