成为党的总书记
1905年1月22日，俄国革命终于爆发。
随着革命运动的高涨，彼得堡、莫斯科及全国各地纷纷建立苏维埃。11月底，斯大林参与筹备高加索布尔什维克第四次代表会议，在这次会议上，他被推举为出席全国代表会议的代表。12月12～17日，斯大林以俄国社会民主工党高加索联盟代表的资格出席了在芬兰坦默福斯举行的全俄布尔什维克第一次代表会议。在这次代表会议上，列宁和斯大林第一次直接会面了。斯大林在代表会议上被选进负责编写代表会议决议的政治委员会。
1917年10月，列宁当选为全俄苏维埃政府第一届人民委员会主席。这是他向出征的红军部队讲话。俄国第一次革命失败后，沙皇制度重又站稳脚跟。工人运动的浪潮急剧衰落。当革命**时，有200多万工人参加了罢工。1908年只有17．74万工人参加罢工，1909年只有6．4万人参加罢工，1910年仅有4．6万人参加罢工。言论、结社和新闻的有限自由也大部分被取消了。党组织遭到严重破坏。很多中央委员被捕，更多的党员被判处苦役，遭到监禁和流放。小资产阶级知识分子纷纷离开了党的队伍，部分不坚定的工人脱离了党的秘密工作。党组织的成员大大减少，各级党组织间的联系削弱了。
面对革命的失败，俄国社会民主工党内部出现了两个主要的机会主义派别：一是以孟什维克为代表的取消派，主张只把工作重心放在合法组织上，取消党的秘密组织和停止秘密的革命工作。二是布尔什维克内部出现的召回派，主张只把工作重心放在秘密的党组织上，放弃合法的工作形式，并从杜马中召回社会民主党党团。列宁既反对取消主义，又反对召回主义，主张在秘密党领导下把秘密工作和合法工作结合起来，即既要利用秘密行动的方式，也要使用合法的形式，包括国家杜马的讲坛、工会、合作社、俱乐部以及其他合法组织。实行这种策略的目的就是要保存和聚集力量，以便在有利条件到来之机发动新的革命进攻。
在两次革命之间的革命低潮期，斯大林一直在俄国坚持秘密革命活动，并且从一个地区党的工作者成长为全党的领导人之一。沙皇政府竭力设法剥夺他从事革命活动的机会，接连不断地用逮捕、监禁和流放手段来对付他。从1902年第一次被捕算起，到1913年间，斯大林先后被捕七次，流放六次，同时也从流放地逃走五次。只有最后一次流放，才是由1917年“二月革命”把他解救出来的。
1912年1月，党内生活中发生了极为重要的事变。俄国社会民主工党第六次全俄代表会议于1月5日～17日在布拉格召开。在这次代表大会上，列宁创立了新式的党，即布尔什维克党，而且把孟什维克从党内驱逐出去。会议选出了以列宁为首的俄国社会民主工党中央委员会，一些在艰苦年代里经受锻炼的地方党的工作人员被选人了中央委员会。在巴库地区表现出色的奥尔忠尼启则和斯潘达梁均当选为中央委员。根据列宁的提议，斯大林被增选进中央委员会。
在第一次世界大战中，由于沙皇政府的腐败无能，俄国军队屡遭失利。德国军队占领了波兰、波罗的海沿岸和白俄罗斯的一部分地区。成群结队的百姓流离失所，广大民众对沙皇政府的不满情绪日益增长。在布尔什维克党的引导下，广大工人群众首先起来斗争。1914年后半年，全俄不同地区的工人先后举行了70次罢工，1915年罢工运动超过1，000次，1916年达1，500次，参加人数多达100万以上。在工人运动影响下，士兵厌战、反战情绪日益浓厚，成百上千的士兵逃离前线，不愿再为沙皇政府卖命。与此同时，俄国许多地区的农民也展开了斗争，他们打开地主的粮仓，赶走地主，烧毁庄园，分掉了地主的牲畜和农具。俄国的欧洲部分如此，亚洲部分也积极行动起来。1916年，中亚和哈萨克斯坦先后发生了几万人的起义斗争。
在国内轰轰烈烈的民众运动此起彼伏、人民大众已经觉醒的条件下，1917年2月26日，布尔什维克党号召人民举行总起义，成立临时政府。工人首先响应布尔什维克的号召，士兵也转向起义。到第二天晚上，已有6万多士兵转到革命方面来。起义的工人和士兵很快就取得了重大胜利，他们逮捕沙皇政府的大臣和沙皇军队的将军，释放政治犯，并在当天晚上举行了彼得堡工人士兵代表苏维埃第一次代表大会。
在革命的紧要关头，斯大林参加了布尔什维克党的领导工作，他团结全党，为了变资产阶级民主革命为社会主义民主革命而斗争。斯大林坚决拥护列宁的“变帝国主义战争为国内战争”的主张，并发出号召，“撕下帝国主义的假面具，使群众认清这次战争的真实内幕，这也就等于向战争真正宣战，使现在这种战争不可能再打下去”。
在列宁的号召领导下，1917年10月24日希尔什维克党开始了夺取政权的斗争。起义总指挥斯大林和领导成员斯维尔德洛夫和捷尔任斯基始终留在革命军事委员会里。他们制定了详细的起义计划。
1920年，斯大林与苏共其他领导人在一起。1917年10月25日晚10点45分，第二次全俄苏维埃代表大会在斯莫尔尼宫开幕。革命政权诞生的第二天，即10月26日夜间，第二次全俄苏维埃代表大会通过了《和平法令》和《土地法令》，并成立了第一届苏维埃政府——人民委员会。列宁当选为第一届人民委员会主席，斯大林任民族事务人民委员。具有历史意义的十月革命，仅在一昼夜间就取得了决定性胜利，几乎没有流血。
十月革命的惊涛骇浪，把斯大林推到了无产阶级司令部的领导岗位上，他有生以来第一次开始和列宁、斯维尔德洛夫、加米涅夫、托洛茨基、季诺维也夫、布哈林等最早的老布尔什维克一起共事。他那敏锐的眼光和冷静的思考使他看到了每个人的长处和优势。他早已看出列宁是比别人更胜一筹的“山鹰”。每次党内出现激烈的争论时，斯大林总是与列宁站在一边。正如他自己所说：我深信列宁是一个非凡的人物……是一个典型的最高领导者，是一只“山鹰”，他在斗争中不知恐惧为何物，大胆地引导我们党在前人未曾走过的俄国革命运动的道路前进。
在关于与德国和谈的布列斯特和约的辩论中，斯大林尽管没有什么固定的见解，但在关键时刻他还是站在列宁一边，投了赞成票。这对于他日后的晋升和掌权，对他个人的命运，对整个国家的前途和命运来说，都是非常关键的一票。
还在《布列斯特一里托夫斯克和约》签订之前，俄国南部地区就已经发生了内战。和约签订之后，刚刚诞生的苏维埃政权依然面临着十分严峻的考验。国外帝国主义对红色革命政权虎视眈眈，国内矛盾也日益复杂化。为了巩固苏维埃政权，1918年3月，红色革命政权的首都从彼得堡迁到了莫斯科。这次迁都在苏俄历史上以及斯大林个人生活中，都具有深远的影响和意义。
在十月革命取得胜利之后的几个月里，苏维埃政权利用签订和约这样一个喘息的机会，开始在俄国中部、莫斯科、彼得堡等主要城市牢固地确立了自己的地位。但是，沙皇将军和官吏、地主、富农和资本家们仍然不承认工人阶级取得的胜利。他们在十月革命初期的一些战斗中受挫之后，便开始在工业无产阶级力量比较薄弱而富农势力比较强大的顿河地区、库班地区和乌克兰地区聚集并巩固反革命武装力量，继续和新生的革命政权进行残酷的较量。
1918年5月底，关于察里津军政两方面危急情况的报告传到了莫斯科。在这生死存亡的紧要关头，列宁和中央委员会派斯大林到那里去组织输送粮食。斯大林把那些腐化堕落和办事不力的官员撤了职，解散了一些不必要的革命委员会，任命了一些政治委员去整顿劳工和运输组织，以确保对莫斯科的粮食供应。
1918年7、8月间，伏尔加河流域一带的形势继续恶化。8月13日，斯大林宣布察里津处于戒严状态。经过充分的思想动员和大量的组织工作，察里津的工人阶级为部队提供了大量的新的战斗装备，他们修好了300门大炮，制造了11辆装甲列车和18辆装甲汽车。察里津市的许多工厂都在积极地为红军生产枪支弹药，数以万计的市民加入到挖战壕和修筑阵地工事的行列中。为了与机动性强的哥萨克骑兵作战，斯大林又组建了几个用大量机枪和大炮装备起来的加强师，原红军骑兵部队改编成更大的炮兵部队。为了有力地支持步兵和骑兵作战，组建了装甲纵队，由工人出身的英雄战将阿利亚勃耶夫负责指挥。所有这些有效的措施，大大加强了察里津的防卫能力，并且有能力在一些地段发动战役性的进攻，从而打破敌人的封锁和包围。就这样，在斯大林英明的指挥下，察里津的保卫者一次又一次地打退了敌人的疯狂进攻，保住了这座英雄的城市，保住了革命的政权。
斯大林、列宁、托洛茨基（自左至右）旧照。列宁去世后，斯大林与托洛茨基决裂。在保卫察里津的英勇战斗中，斯大林表现出了卓越的军事领导才能、坚不可摧的意志和旺盛的革命斗志；在战斗中，他和战友们开创了新的、更高的战略和战术范例，他们巧妙地采用了步兵、骑兵与炮兵、装甲列车和伏尔加河军舰的协同作战方式，粉碎了强大的敌人多次夺取察里津的一切企图。鉴于斯大林在保卫察里津的卓越贡献，依照劳动人民的请求，这个光荣的革命城市被命名为斯大林格勒。这是党和人民对斯大林伟大功绩的最高赞赏和肯定。
1918年10月23日，斯大林奉命回到莫斯科。为了迎接光荣归来的英雄，列宁派共和国主席斯维尔德洛夫乘专列亲自去接斯大林，而且还为他举行了隆重的欢迎仪式。
由于卓越的军事指挥才能，斯大林在党内外群众中的威望日益提高。他是一位既有工作能力，又敢承担责任的、讲求实效的领导人。他虽然不是了不起的演说家，但是他的发言总是很有道理。他还是一个能克服官僚主义的重重障碍作出果断决定的人。他受到人们高度尊敬也表现在党的第八次代表大会上。在所有代表选举中央委员会的选票上，他都是名列前茅的。这次大会还成立了中央委员会的两个小组委员会：指导党的政治事务的5人政治局和负责人事与行政事务的组织局。斯大林同时被任命为这两个局的委员。此外，他还担任了国家监察局委员，主要负责防止官僚主义滋长这一艰巨而重要的工作。如同组织局的工作一样，他负责的新人民委员部也是承担了不轻的工作。但是不管怎么说，这是必不可少的组织工作。在斯大林的领导和管理下，这些部门的工作很快就取得了突出的成绩。
斯大林很少在大会上发表演说，即使有时发表一些讲话，也大都很简洁。他是个能够冷静地分析人和局势的现实主义者，而且做出的结论通常都是慎重稳妥的。斯大林在国内战争和对波兰地主军队的战争中，作出了非常突出的贡献，并获得了红旗勋章。在党内，斯大林以言语文静、行动果敢而著称，被公认为是一个有决策能力和有权威的领导人。在连年的战争和革命之后，苏维埃政府面临着重建国家的艰巨任务，斯大林很明显是一个能够承担特殊责任和使命的人物。
内战之后，斯大林很快就担任了3个重要的职务：民族事务人民委员、工农检察院人民委员和政治局委员。
在尖锐的社会矛盾和党的斗争中，斯大林没有参加任何派别活动，没有介入过多的具体经济工作；没有卷入纷繁复杂的思想斗争漩涡。他只是对这些斗争细心地观察和进行分析，只是在适当的时候支持党和列宁，对反对派原则地评论一番。他的策略是稳妥而深思熟虑的，因而深受列宁的赏识。
斯大林最大的竞争对手托洛茨基在“十大”会议上受到批评后一蹶不振。他埋头于经济工作和理论研究，很少过问政治局的工作。他的支持者从中央领导层纷纷落选。新当选的中央委员如伏罗希洛夫、奥尔忠尼启则、莫洛托夫、古比雪夫、基洛夫等人都是斯大林所信赖的人，都是斯大林的支持者。他们已陆续被安排在斯大林重点管辖的少数民族地区工作：奥尔忠尼启则是中央高加索局的领导人，卡冈诺维奇、基洛夫、莫洛托夫和米高扬分别是土耳其斯坦、阿塞拜疆、乌克兰、亚美尼亚等地区的领导人。
斯大林的另一个有利的地位是在政治局。在整个内战时期中，政治局只有5名成员：列宁、托洛茨基、斯大林、加米涅夫和布哈林。自从布尔什维克党和社会革命党人之间的联合破裂后，这个政治局成为国家的实际管理者。列宁是政府和党公认的领袖，托洛茨基负责指挥内战，加米涅夫在各方面都是列宁的副手，布哈林负责出版和宣传，而斯大林则负责党的日常管理工作。政治局是讨论重大政策的地方。另外一个机构是组织局，它同政治局一样是由中央委员会选举的，负责党的人事工作。它可以按照内战的需要，在整个军队和行政机构中召集人员、指导工作和分配工作。从1919年初起，斯大林就是政治局和组织局之间唯一的常设联络员。他保证了政策和组织之间的团结一致；也就是说，他按照政治局的指示，调配党的各种力量。
1921年，列宁的健康状况开始下降。
第十一次党代表大会定于1922年3月召开。为此，列宁精心作了准备。会议通过了列宁在开幕式所作的报告中提出的各项方针政策，列宁本人带病参加了开幕式和闭幕式大会。党代表大会结束后的第二天，即1922年4月3日，宣布了任命斯大林为总书记这一新的职务。设立总书记这一职位，目的是协调复杂的党内各部门之间的关系。另一种打算是，将行使书记处能够对全体党员进行更加严格的考察，并保证以后可以仔细挑选出更合格的党的代表大会的代表。
显然，在知识能力和威望上看，能胜任这一关键职位的最合适的人选莫过于斯大林了。政治局主席加米涅夫以政治局的名义提名斯大林，这一提议毫无疑问是得到党的最高领袖列宁支持的。莫洛托夫和古比雪夫被任命为斯大林的助手。这项任命作为例行公事在报刊上宣布。这时，斯大林既是中央委员会、政治局和组织局的成员，又是书记处成员，他成了当时唯一身兼四职的布尔什维克党领导人。这4个机构密切相关，使党和国家生活的各个方面都有密切的联系，这就为斯大林成为列宁的接班人奠定了基础。
斯大林被任命为总书记之后不到两个月，列宁就不能再直接领导党的政府的工作了。1922年5月底，他的动脉硬化症第一次发作。他几乎失去了说话的能力，于是便被从克里姆林宫送到莫斯科效外治疗、休养。52岁的列宁进行了一次手术，把1918年范尼娅·卡普兰行刺他时留在体内的一颗子弹取了出来。这次手术显然有希望使他的健康状况得以好转。然而不幸的是，他的动脉硬化症发作了。由于列宁顽强地与病魔作斗争，加上良好的治疗，这年仲秋，列宁又可以重新工作了。然而不久，即这一年的秋末，疾病第二次发作使他丧失了行动的能力。1923年3月，列宁又第三次发病。直到1924年1月21日逝世。
列宁去世后，苏联的革命事业又处在了一个紧要关头。这个时期，急需要有一个新的政策来激励苏联人民承担历史赋予他们的重任—一把他们的国家从十月革命推进到社会主义。这个政策就是斯大林提出的“在一国首先建成社会主义”。这个呼吁具有极大的号召力和感染力，它在党内外激起了革命的新热情。这个政策宣告：苏联人民不依赖西方。相信自己的国家有能力独立自主地创造自己光辉的未来，将一个长期落后的俄国建设成为一个先进的社会主义新苏联。
在党的第十五次代表会议上，充分讨论并通过了斯大林提出的“在一国首先建成社会主义”的政策。斯大林认定别无他路可走。工业落后而规模又小，农业原始而产量又靠不住。共产党的政权受到了资本主义国家的威胁。资本主义国家一旦作好准备，就会发起进攻，消灭共产党，摧毁革命的成果并奴役人民。他博览群书，通晓俄国的历史。斯大林深深地懂得，每当俄国国力衰弱，领导无力的时候，它就会遭受外国列强凌辱的命运。
在发展工业、实现农业集体化和建立强大经济的过程中，没有时间可以浪费。否则，新生的革命政权就很难安全地、自豪地屹立于世界民族之林。
斯大林与其洛夫（左二）、奥尔忠尼启则（左三）等在一起。这两位斯大林曾经的密友，后来在肃反和清党运动中被斯大林无情地清洗掉了。农村经济政策的实施，取得了初步的成功。连续两年的丰收使粮食产量明显提高。农业税的调整以及国家和合作社的收购组织效率的提高取得了成果。1926年7月～1927年6月一年间的粮食收成达1,060万吨，而前一年只有840万吨。不仅生产和销售了更多的粮食，而且国家的粮食征购量也增加了。这意味着2．75亿卢布的出口目标已经基本达到。
此时，国家计划委员会根据第十五次党代表大会的指示，正在制定一项全面发展工业的计划。该委员会在农业发展估算的基础上，设想了工业的逐步发展。5月底，斯大林向党提出了他的集体化和迅速工业化的新政策。他把这当作是一个挑战，是国家唯一可行的道路。
1928年12月底召开的第八次工会代表大会正式批准了工业化计划。
第一个五年计划就其范围和成就来说，实在是人类历史上一次最伟大的计划经济的尝试。虽然没有达到预定的指标，但成就依然是巨大的。而且，这一功绩在4年零3个月的时间里就完成了。
在完成了第一个五年计划以后，苏联立刻投身于第二个五年计划，这个计划提出了5倍于第一个计划时期建设的新工业，以及整个经济的技术改造。然而，正如斯大林所说的，这一任务“无疑是比较容易了”——今后的任何五年计划都不会有第一个那么困难了。五年计划成了这个国家前进的模式。
托洛茨基的“铁箍”
列宁领导的十月革命，像一块巨大的磁石，吸引了俄国的无产阶级革命家，他们像洪流一样汇集在彼得格勒，在这块革命圣地上，他们从事着前所未有的共同事业。斯大林和托洛茨基就是在这样的形势下相识与共事的。在内战前后，这“两位杰出的领袖”得到了列宁一视同仁的信赖。并被最早选为政治局委员。但是，从一开始，他们就在一系列观点上产生了明显的分歧。
不过，列宁健在时，双方的争论总是谨小慎微并有所节制的。斯大林对托洛茨基尽量表现得宽厚、客气，不带个人色彩。这甚至使托洛茨基颇受感动。那时，他曾对一位外国记者说：“斯大林是一位勇敢而诚实的革命家。”
托洛茨基在“十大”受挫以后，态度消沉，一度在家养病，并从事写作。他几乎与政治局的同事断绝了联系。与他人的一切矛盾也似乎烟消云散了。
在政治局里，斯大林显得比较谦虚，对任何人都不动声色。季诺维也夫和加米涅夫都没有对斯大林产生任何戒心。他们仍把托洛茨基当作主要对手。这使托洛茨基逐渐在中央委员会里受到孤立。但是，在知识分子和广大青年中，托洛茨基仍有相当多的支持者和崇拜者。他们不断地串连、活动，在下面组成了一支不取得多数，总书记斯大林总是先同季诺维也夫、加米涅夫碰头，然后再由总书记主持召开政治局会议。秘书处的工作人员私下里把这种“三人碰头会”称作“铁箍”。有一次，在政治局会议上，季诺维也夫与托洛茨基争吵起来，托洛茨基气得火冒三丈，布哈林出来调解。下面的工作人员则对托洛茨基说：
“难道您没有看出来您掉进了‘铁箍’?您的戏法吃不开，您是少数。”
1923年10月8日，托洛茨基在党中央会议上公开阐述了自己的观点。他在会上说：俄共（布）十二大后形成的制度离开工人民主的距离比战时共产主义时期还要远得多。他指责党的组织体制是书记等级制；认为党的领导机关已经官僚化。他还给中央委员会和中央监察委员会寄去一封言词激烈的信，阐述自己的理论观点。后来，他还召集了一些支持者和原来的反对派成员到他家开会，批评党的组织是“如同军队式”的官僚机构，要求自上而下地撤换党的负责人。他主张废除“禁止党内派别活动”的决议，争取得到更多的言论自由。不用说，托洛茨基的斗争锋芒是直接指向总书记斯大林的。表面上看，争论的焦点是宏观的政治、经济问题，是理论、观点上的分歧，但双方心里都十分清楚，问题并非如此简单。只有年轻有为的理论家布哈林等人才把这场争论看成是党内纯理论上的路线斗争，布哈林当时坚定地站在党的立场上，也就是总书记斯大林的一边，与托派分子展开了坚决的斗争，斯大林在斗争中始终处于多数地位。斯大林十分善于因势利导，注意发挥年轻党员和各级领导人的作用，在总书记周围聚集了一批党的积极分子和骨干，而托洛茨基始终处在被动的地位。
托洛茨基并没有就此退却。他召集了一些观点一致的老党员联合签发了一份“46人声明”。他们的声明信的内容是很尖锐的，是毫不客气的，正如过去批评列宁时一样。声明指责中央“没有继续前进的计划”，执行的是“工业硬性集中”、“收紧对农民的政策”、实行“劳动军事化”的经济路线。
奥尔忠尼启则成为了路线斗争的牺牲品。他自杀后，斯大林亲自为其抬棺送行。总书记斯大林仍然不动声色，他仔细地注视着对手的活动，让对手尽情出击而不对他进行反攻。直到托洛茨基把党内斗争扩展到全国的时候，斯大林身先士卒，他率领中央一班人马前往全国各地，组成强大的反托攻势，在各地党组织的会议上对托洛茨基进行猛烈的批判。参加这个批判大军的有：季诺维也夫、加米涅夫、布哈林、加里宁、捷尔任斯基、基洛夫等。他们都是政治理论家、党中央的铁腕人物和权威人士。广大党员和基层干部站在党中央一边。只有在知识分子较多的大学支部才有托洛茨基的市场。
在1924年1月17日的俄共（布）第十三次代表会议上，斯大林在报告中第一次宣读了党在十大通过的《关于党的统一的决议》中的第7条。这条规定是列宁亲自起草、并在十大会议上通过的。但这一条一直没有公布于众。现在，斯大林把它公开出来，用以反对党内派别活动。这是打击反对派的一发重型炮弹。对于托洛茨基来说，这确实是致命的一击。在报告中，斯大林从总体上列举了托洛茨基的六个错误。他说：第一条错误就在于：托洛茨基发表的文章与中央委员会的决议相对立。在斯大林罗列的这六个错误中，最根本的也是斯大林最敏感的只有一条，那就是托洛茨基不该指出“党的机关存在官僚主义”。
斯大林始终举着党和列宁的旗帜，他在党内始终占据着被多数拥护的优势地位。由于他善于诱导和发动党员群众，支持托洛茨基的人越来越少了。
在1924年5月23日召开的俄共（布）第十三次代表大会上，斯大林又一次对托洛茨基进行了系统而严厉的批判。此时，列宁已经逝世，斯大林对反托斗争更加充满了信心。
托洛茨基在党的会议上连续受到谴责以后，感到心灰意冷，无心过问党中央的工作。由于身体和情绪的原因，他离开莫斯科，到乡间养病，并从事理论研究和写作。
1925年1月，托洛茨基被解除了军事委员会主席职务，而且没有委派其他工作。这对托洛茨基来说，简直是无法忍受的。从性格上看，他是个不知疲倦的工作狂，他不甘心过清静悠闲的日子。
1925年春，托洛茨基来到克里姆林宫要求工作。于是，他得到三项任命。电气技术管理局局长、工业科技委员会主任、租赁委员会主席。一个在政治上颇有建树的理论家将要去改行搞业务工作。这跟托洛茨基的能力、经历和威望似乎根本不相称。但他没有选择的余地，对于政治上的失败者，这已经是宽宏的处理了。于是，他接受任命，开始从事技术工作。
为了彻底击败对手，斯大林不知花费了多少个日夜，刻苦钻研列宁著作和党内斗争的历史，并由此总结出带有普遍规律性的结论。这个结论就是：“联共（布）是通过克服党内矛盾而成长和巩固起来的。以斗争来克服党内意见分歧是我们党的发展规律。”
1926年12月7日，斯大林在共产国际执行委员会第七次扩大全会上，作了一篇题为《再论我们党内的社会民主主义倾向》的长篇报告。这篇报告，加上12月13日的结论总共约有8万字，大约是斯大林一生中所作的报告中最长的一篇。其内容都是针对反对派的。
反对派面对这种强大的舆论压力，几乎要土崩瓦解了。他们的首领暂时放弃了行动计划，两派处于一段休战状态。1927年初的几个月，斯大林的反对者季诺维也夫在考虑向斯大林投降，托洛茨基还在等待新的进攻时机。党内显得少有的平静。不过这只是一种表面现象。
由于和斯大林的矛盾，由于和“联合反对派”的共同活动，托洛茨基终于遭到噩运。1928年1月，4名便衣警察敲开托洛茨基的房门，强行将他带走。托洛茨基拼命反抗，但无济于事。当他们把他拖到楼下时，秘书急切地想要阻拦。结果，秘书也被逮捕了。
托派支持者听说1月16日将要把托洛茨基流放到中亚去。他们提前赶往火车站，他们在车厢顶上竖起一幅托洛茨基本人画像。此时有人截住火车，抓住车厢，要与托洛茨基见面，引起车站上一片混乱。警察逮捕了一些闹事者，而托洛茨基仍在看守所里等待着。警方通知他启程日期延至两天之后。可是，第二天上午，警察就向他出示了逮捕证，并宣布立即押往阿拉木图（靠近中国的新疆省）。由于这次的保密工作很成功，火车站上空空****，火车顺利地开到目的地。
阿拉木图在天山脚下，伊犁河畔，它与中国接壤，居住着稀疏的哈萨克人。他们喜爱打猎和捕鱼。托洛茨基也分享了这种乐趣。在那里流放的一年中，他尽情享受大自然的美景，尽管在远离首都的边塞，托洛茨基几乎一天也没有停止过工作。他与远方的老朋友、老部下始终保持着密切的书信来往。即使是在他得知自己的26岁的小女儿尼娜去世的消息时也没有停笔。
托洛茨基的干劲和顽强精神使斯大林感到震惊。斯大林下决心切断他与莫斯科的联系。十月革命纪念日那天，很多人给托洛茨基发去慰问的电报，而他却一封也没有接到。
12月中旬，莫斯科的特派员专程来到阿拉木图，向托洛茨基提出口头最后通牒，勒令他彻底停止一切活动，否则将会改变他的生活条件和居住地点，使他完全脱离政治生活。
听完这个口头通牒后，托洛茨基立即给联共（布）中央委员会和共产国际执行委员会写了一封态度十分强硬的公开信。
信中表示他决不会放弃政治斗争，并指责斯大林派在搞“**裸的‘热月政变一。信中充满了反抗的**和对斯大林的控告，字里行间表现出对斯大林的轻蔑和鄙视。
斯大林会见德国外交部长里宾特洛甫，随后两国签署了《苏德互不侵犯条约》。这封约6,000字的复信迫使斯大林不得不下决心把托洛茨基开除国籍。
1929年1月20日，内务部的10余名武装警察来到托洛茨基的住所，向他宣读判决书。该判决书说：
“经审理公民列夫·达维多维奇·托洛茨基一案，据刑法58条10款，被定为反革命案，该犯犯有组织反苏维埃非法政党的罪行。该党近期活动旨在挑拨反苏活动，并策划反苏维埃政权的武装斗争。判决将公民列夫·达维多维奇·托洛茨基驱逐出苏联国境。”
两天以后，托洛茨基和他的妻子、儿子随押送人员启程了。经过几番周折，直到3月初，他们乘坐的“伊里奇”号货轮才开到目的地——土耳其的君士坦丁堡。从此，托洛茨基开始了长达11年的流亡生活，先后在土耳其、法国、挪威、墨西哥等国居住。他与斯大林的斗争始终都很激烈，一直到他1940年遇刺身亡为止。
斯大林认为，苏联的经济成就越大，资本主义、阶级敌人的破坏企图也就越大，因此，必须时刻保持警惕，以肃清这些敌人。于是，在“揭发和铲除人民敌人”的号召下，一场大规模的肃反和清党运动在全国、全党轰轰烈烈地展开了。斯大林要挖出隐藏在党内外的一切敌人，一个不留地全部肃清。一场震惊世界的肃反运动持续了4年之久。由于斯大林认识上的偏差，由于坏人乘机钻进了掌握人民生死大权的肃反部门，使得成千上万的人遭到了无辜的株连。
1937年1月23日，在莫斯科举行了第二次表演性质的大审判。17名被告被说成是反苏托洛茨基中心的领导人。他们勾结德国和日本政府阴谋推翻苏维埃政权。他们的主要阴谋是破坏经济。托洛茨基被指责为这一阴谋的可恶的指挥者。
总检察长维辛斯基操纵着这次审判，他在处理这一案件时显得沉着而温和，因为被告人的表现使他感到轻松。一个目睹公审现场的人后来这样写道：“所有的被告好像都在争相往自己的头上堆加罪名——‘是我的莫大罪过’。几乎用不着让他们同原告对质。”结果，所有受审的人都被判为有罪，其中13人被枪决，4人被判处10年徒刑。
这次审讯后不久，谢尔戈·奥尔忠尼启则就死了。奥尔忠尼启则是斯大林最老的同事和朋友之一。1912年，是他向列宁谈起了斯大林并帮助把斯大林首次选入中央委员会。10年以后，他们合作解决了格鲁吉亚问题。在反对各类反对派的斗争中，他都热心地同斯大林合作，并且建立了深厚的革命友谊。奥尔忠尼启则接受斯大林的领导，但作为一个老同志，并作为政治局委员和主管重工业的人民委员，他直言不讳。据说，他是唯一向斯大林提出反对内务人民委员部的活动的人，并为一些被捕的人说情。但是，随着他的对手和敌人拉夫伦季·贝利亚的影响和地位的上升，他的影响却下降了。
1937年2月17日上午，奥尔忠尼启则和斯大林见面时大吵了一架。他气愤地抗议内务人民委员部根据叶诺夫的指示搜查了他在克里姆林宫的住处。斯大林冷静地回答说：“内务人民委员部也可以搜查我的住处。这没有什么奇怪的。”奥尔忠尼启则无疑抱怨了这次清洗运动以及对他的朋友和人民委员部中的高级干部的逮捕。两个人显然都发了脾气，长期的战友情谊和同志般的友情从此破裂了。
奥尔忠尼启则回到了他的办公室，伏案工作到第二天凌晨两点钟才回到自己的住处。根据他的妻子齐娜伊达·加甫利洛夫娜的证词说，他后来不肯起床。起床后又拒绝会见来访的朋友，也不吃饭，而一整天都在那里写东西。下午5点半的时候，她听到了枪声，就跑进房间，看到他已经死了，床单上溅满了鲜血。她立即打电话给斯大林，斯大林在政治局的其他委员以及叶诺夫的陪同下来到奥尔忠尼启则的住处。
1937年2月18日，报纸上刊登了奥尔忠尼启则心脏病突然发作去世的消息。官方的诊断书是由4位有名望的医生联名签署的，其中3人不久后就被捕并被处决了。
内务人民委员部逮捕了除他妻子以外的家庭成员，以及同他一起工作过的人，甚至连他别墅的守门员也没有放过。虽然一直有谣传，但是人们一般都以为他是患心脏病死的，直到1956年赫鲁晓夫才宣布他是自杀的。
然而，大清洗真正的结束是在1938年7月，这时，拉夫伦季·贝利亚被任命为叶诺夫的副手。他立即主管起内务人民委员部，虽然叶诺夫直到1938年12月才被调离该部去担任内陆水运人民委员。过后不久他便被处决了。
内务人民委员部中的许多官员因对无辜的人搞逼供而被审判和处决了，另一些人则被送往劳改营。忠诚的党员在经历了漫长的恶梦之后对清洗内务人民委员部感到宽慰。这证实了他们的看法，即法西斯分子渗入了保安部门和政府之中，他们要对叶诺夫时期的残酷迫害和冤案负责。这种解释得到了官方的鼓励，从而也在一定程度上开脱了斯大林和政治局的责任。
斯大林直接控制着苏联每一部门的政策并投身于武装部队的建设和外交政策的执行，他不可能一直过细地掌管清洗运动。他意识到内务人民委员部逮捕了许多无辜的人，在“古格拉”劳改营中的有些人，许多人根本没有对党、对社会主义不忠诚的污点，是无辜的。在任何一场如此大规模的运动中，他们是不可避免的牺牲品。但他对这种浪费人才的做法不满。飞机设计师雅柯夫列夫记述了1940年他和斯大林的一次谈话，斯大林大声说道：“叶诺夫是只耗子，他在1938年杀了许多无辜的人。为此，我们把他处决了。”
在这些可怕的年月里，斯大林显示出非凡的自制力，没有失去他的目标，他知道他在干什么。他相信，被清洗的大多数人原则上是犯了罪的，他以一种政治家的冷酷而行事。然而，斯大林不可能了解或研究这么多人的案子，他不得不接受像叶诺夫这样的他所厌恶和不信任的人的意见。然而，斯大林也会按这样的原则行事，即为了达到目的，这种牺牲是完全合理的。他还更进一步坚持认为，内务人民委员部在清洗叛徒的时候，对可能造成背叛的次要根源也不能放过。图哈切夫斯基等人的家属以及接近他们的人都被逮捕并被流放到西伯利亚。在这里，感情和良心没有起任何作用，一切都服从于他要建设一个强大的、攻无不克的社会主义苏联这一目标。
肃反和清党运动结束之时，正是苏联第二个五年计划结束和第三个五年计划开始之际。毋庸置疑，肃反和清党运动对苏联人民和党的事业造成了不小的损失，然而，由于经济工作一直没有放松，由于第一个五年计划奠定的良好基础，到这时，苏联仍然在经济上取得了重大成就，充分显示了社会主义制度的优越性。到30年代末期，苏联的工业力量已经赶上了德国，在矿业的总产量、基本建设和工厂设施等方面已经接近欧洲大陆所有最发达的国家。而这些国家是在外国资本家的帮助下，经过了四分之三个世纪深入的工业化才成功的。另外一些大陆国家，几年之前苏联人还难望其项背，而现在已经被抛到后边去了。工业革命从苏联中部和西部发展到其他亚洲部分遥远的不毛之地。
集体农庄也开始产生积极的成果。到30年代末期，苏联农业已经克服了30年代早期的衰退；工业也终于能够大量地供给拖拉机、联合收割机和其他农机具，集体农庄在不长的时间里，实现了相当高度的机械化。