夺取湘鄂赣三省首先胜利的“左”倾冒险计划，命令红一军团攻打南昌，红三军团攻打长沙。毛泽东、朱德发现南昌工事坚固，敌人有重兵防守，决定改变计划，率领一军团到赣西开辟新的红色区域，避免了屯兵于坚城之下的后果。红三军团虽然乘虚攻克长沙，但是损失很大，几天后不得不退出城外。8月中旬，李立三严令红一军团和红三军团组成红一方面军，由朱德任总司令，毛泽东任总政委，组织部队第二次攻打长沙。
9月上旬，红一方面军包围长沙。当时国民党何键部队坚守不出，长沙外围地势平坦，还在数千米的开阔地带设置了三道电网，电网之后，星罗棋布、密密麻麻的尽是一座座掩体堡垒。红军缺少攻坚设备，连重机枪也只有一挺。朱德、彭德怀指挥几次硬攻，均因电网阻拦和优势火力封锁而告失败，急得直骂娘。毛泽东命令由四军担任主攻，把希望寄托在林彪身上。
林彪关在房子里琢磨了好久，急中生智，想出一条“火牛”计。他说，“前几次攻城失败的主要原因是我们缺少重武器，特别是无法突破敌人的电网，战士们一碰到这玩艺就倒。人怕电网牛不一定怕。战国时齐国大将田单为破敌阵，曾把水牛集中到一起，在犄角上捆上刀子，在尾巴上绑上油棉，一点火，牛就负痛地向前奔，在敌军阵营横冲直闯，齐国将士尾随其后，结果大获全胜，我们也可以仿效古人。”
大家一听，觉得有理。于是，部队分途征集黄牛和水牛。土豪的牛，没收征用，农民的牛，花钱收购。很快征购到了一千多头牛。
9月10日晚8时，攻城司令林彪、罗荣桓指挥部队向长沙东南郊二里牌、乌梅岭、黄土岭发起总攻，同时动用火牛阵。
“点火”。林彪一声令下，战士把牛尾上的油棉点燃，一千多头牛受到剧痛，发疯地向敌阵冲去，蹄声敲得地面发震，“哞”的叫声在夜幕下显得格外恐怖，数百名敌军在惊慌失措中被牛踩死。火牛阵初显神效，可是没持续多久，油棉烧完，疼痛减轻，电网后敌人一放枪，这些牛又哗啦啦掉转头往回跑，搞得战士东躲西藏。敌人一个反冲锋，涌到前沿指挥所跟前，离林彪、罗荣桓只剩几十米。形势危急，罗荣桓挥舞双拳喊道，“全体人员拿起武器，把敌人压下去”，指挥所警卫员、通讯员、炊事员迅速迎敌，贴身肉搏。三纵队司令员肖克一见不妙，二说不说，拔出大刀，大吼一声，“跟我来”，带领部队从侧面横击过去，打退了敌人，化险为夷。
林彪擦一把冷汗，命令停止攻城。火牛阵为什么失灵，林彪百思不解。事后不久，他带着疑问向毛泽东请教，毛泽东告诉他，“火牛阵的关键是要用木棍把两头或三头牛的颈项连在一起，并在外沿用枷子从两侧夹住，这样牛就只能低着头并列向前冲，而我们没用这招，牛一条条散兵游勇式地乱闯，所以不能起到预想的作用”。林彪这才明白过来。
事实证明，在当时敌强我弱的情况下，红军不可能攻克和长期占有中心城市。毛泽东根据敌我力量对比，又考虑到当时蒋冯阎中原之战即将结束，蒋介石有可能从北方调兵增援长沙，认为如果继续围而不克，对红军十分不利，于是说服大家撤围，返回中央根据地。
1930年11月，蒋介石调集十万兵力进攻赣南赤区。敌军兵分八路，分进合击，企图一举荡平红一方面军主力。毛泽东指挥红军部队实行“球心退却”，转移至黄陂、小布地区。12月下旬，东固之敌张辉瓒部孤军东进，朱、毛下令反攻。林彪、罗荣桓按照军委指令，亲率红四军直扑龙冈以北的上固。急行军余中，侦察员报告张辉瓒师位于龙岗。林彪立即决定改变行军路线，签署了一则十分简短的命令：
上固无敌，敌在龙岗，望全军将士奋起精神消灭之。
林彪的命令简洁精练，近乎训词，命令由参谋人员抄在一块门板上，竖在部队经过的路口，以便每一个战士都能看见。指战员一望便知。张辉瓒所部已被围困，高兴得直叫唤。30日下午，林彪率领的红四军和彭德怀率领的红三军团同时赶至龙岗地区，已与红三军、红十二军苦战一天的敌张辉瓒师抵挡不住红军的三面夹击，顿时溃不成军，土崩瓦解。此役俘敌九千余人。
1931年春，蒋介石换将易帅，派军政部长何应钦担任总司令，增兵二十万向中央根据地再度发起进攻。毛泽东将主力红军撤至根据地底部，在敌人鼻子底下隐匿了二十天之久，而敌军毫无察觉。5月14日，红军破译敌人电讯，得悉敌二十八、四十七师将离开富田进占东固，其中公秉藩之二十八师经中洞靠拢东固；王金铭之四十七师沿观音崖、七寸岭向东固攻击前进。红军总部决定吃掉这两股敌人。命令由毛泽东亲手签发，为了保密，连军参谋长也不知晓。这一仗的关键在于观音崖方面。
由富田到东固，中间横亘着一座大山，七寸岭、观音崖是敌军必经的两处险隘。5月15日，林彪率领红四军抢占了这两处隘关，与装备精良、训练有素的“御林军”四十七师展开激战，白刃相交，刺刀见红，战斗十分激烈和残酷。
按照红军当时的规定，行军打仗，军事首长走前面，政治委员留后面。战斗一打响，这一规定被打了折扣，林彪、罗荣桓和各师团军政首长都亲临前线指挥作战。炮弹爆炸声和战士们的冲杀声响彻云霄。突然，一发炮弹突然在师团首长所站处旁边爆炸，击中了站在林彪左边的红十一师政委罗瑞卿，受伤部位就在太阳穴附近。林彪下令将罗瑞卿抬下去抢救，继续组织部队反击，以攻对攻，把敌军逼出阵地，压到山洼中消灭。
罗瑞卿被抬到后方，陷入昏迷之中。医生估计这位政委可能会牺牲，便通知后勤部门做一副棺材，准备收殓。
可是，罗瑞卿却神奇地活了下来。当他苏醒过来时，他的军政上司，林彪、罗荣桓站在他的面前，告诉他红军横扫七百里，五战皆捷，俘敌二万，粉碎了敌人的第二次反革命“围剿”。
蒋介石痛心疾首之余，感到“步步为营”的战法失之过缓，改取“长驱直入”的方针。1931年7月，蒋介石亲挂帅印，发誓“不获全胜，不回南京”，指挥三十万大军洪水一般由北而南进攻中央革命根据地，几乎占领了整个苏区。由于敌军来势凶猛，红军不能在根据地腹部进行集结调动，只好冒着酷暑，绕道千里，经瑞金至兴国地区集结力量。8～9月间，红军发起旋风般的总攻击，经莲塘、良村、黄陂、老营盘、方石岭五次战斗，歼敌三万。蒋介石再次损兵折将，无功而返。
1932年3月，中央军委决定恢复重建红一军团，任命林彪担任军团长。这年，林彪二十五岁。
自1930年至1932年，在三年时间内，林彪率领的红四军纵横驰骋，战功卓著，声名鹊起。林彪的声望也已超过一般军事将领，与号称为“红军之狮”的彭德怀齐名，并驾齐驱，双峰对峙。
林彪和彭德怀是中央红军中的两员名将。一位外国友人在仔细比较了他俩的性格特征、处世风格和指挥才能之后，写了一段十分精彩的文字：
彭德怀一生中说话坦率，不转弯抹角。彭写文章措词明白有力，篇幅往往很长，言词诚恳而激烈，使人一听就了解他的观点。他的部下常说，“他和革命结了婚”。面对那些折磨他的人，他捶着桌子，厉声斥责他们，响声震动牢房的墙壁。“我什么都不怕”，他大声吼着，“你们可以枪毙我，你们的末日不远了”。
林彪看上去不像彭德怀那样直率和精力充沛。他比彭年轻八岁，长得十分瘦削，他的脸是椭圆形的，肤色浅黑，显得很清秀。彭经常和部下交谈，而林却同他们保持一段距离。对许多人来说，林似乎生性腼腆和含蓄。找不到称颂他对部下热情和爱护的故事。他在红军指挥官中的同事都尊敬他，但他一开口就是谈正经事。
毛手下的高级指挥官虽然性格各异，但他们配合得很好。林彪善于声东击西和隐蔽自己，善于奇袭和伏击，善于从侧翼和敌后发起进攻和使用计谋。他的胆量和善用疑兵超过了任何人。不过，据说他只在有十分把握时才出战。而彭德怀总是从正面进攻敌人，他打仗极为勇猛，对手一次又一次被消灭。彭认为打一场战斗，必须使得失相抵，或得大于失，要多缴获枪炮，多抓俘虏，并更多地把战俘转化为红军。这才算打好了仗。
事实上，从1932年春开始，林彪就暗自憋劲与彭德怀一试高低，一心要超过这位敦厚朴实的军团长。这是一场灵鹰与雄狮之间的、同志式的较量与竞争。
1932年春，聂荣臻走马上任，担任了红一军团的政治委员。
聂荣臻上任没几天，发现林彪有一个神秘的小本子，经常随身装在口袋里，上面密密麻麻记录着他指挥的历次战役和战役中歼敌、俘虏、缴获战利品的数字。而一旦谈论到这些数字，林彪便立刻变得神采飞扬，他掏出小本子一页页往下念，平素木讷古板的脸上顿时容光焕发，他的部下便知道，“军团长又活了”。
1933年春，林彪在他的小本子上，又写上了这样一行文字，“1933年2月，指挥黄陂、草台岗战役，歼敌三个师，俘获二万五千余人”。林彪为何对这次战役如此重视呢？
黄陂、草台岗战役是第二次国内革命战争时期中央红军打的最大的一次伏击战。战役的全胜，使林彪善于组织大部队、大兵团作战的传闻更加为人们所折服，“常胜将军”的美名也不胫而走。有一次，当他的老部下吴法宪向他请教作战要诀时，林彪不无得意地引黄陂、草台岗伏击战为例，对吴法宪传授道：
我有“常胜将军”的美名，这并不是我有什么特别的才能。事实上，我只有一种才能，我绝不把打赢一场战役的机会搞砸，这个机会绝对不能放过。机会一旦失去，就永远不会回来。
黄陂、草台岗战役的关键，是红军极其准确地把握住了第四次反“围剿”斗争中稍纵即逝的一线机会。
1932年冬，蒋介石调集五十万人马，分左、中、右三路大军，向中央根据地发动了第四次“围剿”。当时，毛泽东已被王明“左”倾冒险主义者逐出了在红军中的领导位置，剥夺了在政治和军事问题上的决策权。前线指挥由朱德、周恩来担任。“围剿”一开始，敌人主力即由西北向东南齐头并进，步步紧逼。到1933年2月初，敌中路军以十个师的兵力分三个纵队向南丰、广昌前进。12日，红军进攻南丰，示形于敌。敌军为救援南丰，与红军主力决战，以第一纵队之五十二、五十九师取道永丰、乐安向宜黄南部急进，将整个左翼裸露于红军的面前。
这时，红军总部当机立断，迅速命令红军主力自南丰撤退，隐蔽集中四五万优势兵力于黄陂以北地区，然后从两翼包抄北上。
按照总部的部署，红军部队兵分左、右两翼。左翼为红一军团、红三军团和第二十一军，进至黄陂一线设伏，整个左翼部队由林彪、聂荣臻统一指挥；右翼为红五军团和第二十二军，负责阻击敌人和掩护红军右侧。
林彪作为此次战役战场指挥，在与彭德怀、董振堂等人商量后，决定左翼采取平行路线，隐蔽接敌，准备以伏击、侧击、兜击等手段，从左至右逐次消灭敌五十二师、五十九师。大家约定，以林彪打响的枪声作为总攻信号。
2月下旬，适逢连日阴雨，白天山野昏暗，浓雾笼罩山头，不见人影，入夜则一团漆黑，伸手不见五指，加之道路泥泞，又粘又滑，给部队进入设伏阵地带来了很多困难。27日拂晓前，徐彦刚、罗瑞卿率七、九两个师和炮兵连在右，林彪、聂荣臻率十、十一两个师在左，同时进入阵地。彭德怀率红三军团并进，在红一军团之后依次摆开。各师、团、营迅速展开，隐蔽于丛山密林之中。
红一军团的军团部和红十一师指挥所设在一道山沟里。山沟东口便是大路，相距仅一千余米。由于红十一师位于谷口，很容易被敌人突破，林彪不放心。他亲自检查了十一师的阵地，要求他们加强西面火力。
清晨，四周群山幽静，山泉淙淙。八九点钟，太阳升起，浓雾逐渐消散。不一会，雾散天清，敌人也大摇大摆地进入了火力射程之内。
首先过来的，是敌五十二师。全师二个旅四个团毫无戒备地从指挥所前走过。“打不打？”参谋请示林彪。
林彪冷静地说：“等辎重部队。”他判断，敌人大部队行动不可能没有辎重部队。不出林彪所料，敌人辎重部队过来了。“打吧？！”参谋人员又请示。
林彪仍是冷静地说：“等护卫团。”这样，等敌人全部进入了我军的伏击圈后，林彪才发出总攻