在陈独秀李大钊介绍下，林伯渠秘密加入中国共产党
1920年夏，在共产国际代表维经斯基的帮助下，陈独秀、俞秀松、李汉俊、施存统、陈公培5人于上海环龙路老渔阳里2号(今南昌路100弄2号)《新青年》编辑部(即陈独秀寓所)开会，确定要成立中国共产党，初步定名为社会共产党，起草具有党纲、党章性质的若干条文。由此，中国共产党上海早期组织——上海共产主义小组，遂正式宣告成立。
上海共产主义小组成立后，召开会议“首次决议推陈独秀担任书记，函约各地社会主义分子组织支部”。正是建立共产主义小组的历史机缘，促使时任孙中山大元帅府参议的林伯渠，在李大钊的介绍下，前往陈独秀寓所表达入党的意愿，并与陈独秀相识，以此为发端，两人开始了长达数十年的倾心交往。
林伯渠原名林祖涵，字邃园，号伯渠，1886年3月20日出生于湖南安福(今常德临澧)县。1902年，受思想开明的父亲的影响，林伯渠考入湖南公立西路师范学堂，翌年赴日本公费留学，1905年8月经黄兴、宋教仁介绍加入中国同盟会。
1906年，林伯渠回国后，预谋联络各地志士反清。袁世凯刺杀宋教仁后，林伯渠在湖南参加二次革命，任岳州要塞司令部参谋。失败后遭袁世凯通缉，被迫逃往日本，加入中华革命党，受到孙中山的赏识。稍后护国战争爆发，林伯渠任湖南总司令部参议。1918年3月，长沙复为北洋政府攻占，林伯渠等被迫撤回广州，并于1920年出任孙中山大元帅府参议。
此时陈独秀已是革命志士中的传奇人物，是当时进步青年心中的偶像。见到陈独秀时，林伯渠很是兴奋。经过交谈，陈独秀那乐观大气的革命豪情、渊博的学识、敏捷的才思，以及对政治问题鞭辟入里的分析，都让林伯渠深为叹服。而思想进步、倾向革命、对封建三纲五常旧礼教异常痛恨的林伯渠，也给同样誓与封建礼教相决裂的民主革命斗士陈独秀留下了深刻印象。
但对于孙中山的追随者，陈独秀在日本即有一种成见，他曾经说过：“同盟会鱼目混珠，泥沙俱下。我很佩服孙中山、廖仲恺、朱执信，但其他人我就不好说了。像汪精卫，纯属全躯保妻之徒。”故而，虽然林伯渠有着李大钊的推荐信，陈独秀还是对他进行了一番试探，让其谈谈对俄国十月革命和国内革命形势的看法。
林伯渠从辛亥革命果实被篡夺，讲到二次革命的失败;从护国护法运动的受挫，讲到五四运动的探索，他说：“我常常苦恼，从同盟会成立到民国成立后10年中，我们受了这么多的挫折，流了这么多的血，政局澄清总是遥遥无期。从守常(即李大钊，笔者注)寄来的杂志中，我得到启示，欧美式议会政治不能完成这个任务，俄国十月革命能够成功，主要是靠无产阶级。……要革命，依靠军阀打军阀行不通，只有依靠无产阶级的力量，才能拯救中国。”
林伯渠此番话语彻底打消了陈独秀的疑虑，他当即答应了林伯渠的入党要求，并说道：“我们的组织刚刚成立，特别需要发展好的党员，你是孙先生身边多年的同志，能加入我们的共产党，这说明我们的事业是有希望的。”于是，在陈独秀与李大钊的介绍下，林伯渠光荣地成为了一名中国共产党的秘密党员。
1922年4月底，陈独秀、达林、张国焘、蔡和森赶到广州，参加第一次劳动大会和团中央一大。此前孙中山在广州任中华民国非常大总统，林伯渠也回到广州工作。陈独秀遂建议林伯渠兼一点广州共产党小组的工作，林伯渠便担任了广东青年团财政部审计股股长。开干部会时，陈独秀请林伯渠也来参加。在向少共国际代表达林介绍林伯渠时，陈独秀还说：“祖涵是国民党中的共产党员，他的意见有特别的意义。”
自陈独秀离开广州回上海任中央局书记后，林伯渠与他已有半年未见面。此番见面后，两人甚为兴奋。问了一些个人私事后，陈独秀谈及马林与孙中山的谈话。当时“马林、张太雷到桂林住了9天，与孙中山见了几次面，都是林伯渠约见的”，林伯渠遂说道：“马林对孙先生评价很高，称他是中国的民族英雄。但他对孙先生目前的方法不赞同。……马林给孙先生提出一个建议，说你应该有一个很好的、有纪律的、由各革命阶级各阶层联合的党。”
在此之前，随着广州中华民国政府革命力量的不断发展壮大，作为内务总长兼陆军总长的陈炯明与大总统孙中山之间的裂痕越来越大，矛盾趋于尖锐。
思绪及此，陈独秀又问道：“现在陈炯明与孙先生已公开对抗，你怎么看”林伯渠倾向孙中山的态度很坚决，遂说道：“以我之见，孙先生反军阀是坚决的，陈炯明拥兵自重，是不能与孙先生相提并论的。”陈独秀表示赞成，问：“孙先生能否和劳动大会代表见面”“我把仲甫的意见告诉孙先生，因为是全国第一次劳动大会，我想孙先生会来的。他来了讲些什么呢”“要讲的话很多，赵恒惕是湖南省长，他杀害工人领袖黄爱、庞人铨。孙总统应该有个表态。此外，他也可以对劳动大会的代表提出希望。”陈独秀解释说。
不久，第一次全国劳动大会在广州开幕，陈独秀在会上发表了热情洋溢的《劳动节由来与意义》的演讲。大会接受中国共产党提出的“打倒帝国主义”、“打倒封建军阀”的政治口号，通过了《八小时工作制》、《罢工援助》和《全国总工会组织原则》等决议案。在林伯渠的积极努力下，孙中山在大会召开的第二天，接见了大会代表，并作简短讲话。
果不其然，在陈独秀从惠州返回广州后不久，孙中山即于1922年6月12日举行记者招待会，不点名地指责陈炯明“反对北伐”，而陈炯明亦于6月14日拘捕财政次长廖仲恺，两人矛盾开始公开化。两天后，陈炯明的部属叶举率“陈家军”主力回师广东，发动兵变，炮轰总统府和粤秀楼，企图杀害孙中山。当时总统府卫士仅61人，拼命掩护孙中山与宋庆龄脱险，但总统府与粤秀楼被夷为平地。[page]
林伯渠越来越感到，陈独秀的妥协方针是错误的
1922年8月下旬，根据刚结束的西湖会议精神，李大钊、陈独秀准备拜会孙中山，商谈共产党员以个人身份参加国民党、实现国共合作事宜，陈独秀还约林伯渠到自己新居法租界环龙路铭德里2号和李大钊见面。“三人已有很久未见了，这次在沪相见格外高兴”。谈到西湖会议情况，李大钊说：“仲甫对孙先生入党方式打手膜有不同看法。我打算向孙先生建议，改进国民党的一些方法，你有什么看法”
林伯渠赞成说：“孙先生组织中华革命党，提出宣誓和打手膜……现在时过境迁，倘若向孙先生提出改进国民党，这一点都不愿改进，怎么改进一个党呢”陈独秀说道：“从上次马林和孙先生谈话看，孙先生虽然赞同马林建议，但并未采取具体步骤。这次请守常去谈，孙先生态度会怎样呢”林伯渠立即说：“现在和孙先生谈两党合作是最佳时机。孙先生离粤赴沪时说，今日中国之外交，以国土邻接，关系密切言之，则莫如苏维埃俄罗斯。”
加入国民党后，陈独秀对林伯渠开玩笑道：“我和守常介绍你入共产党，现在是你把我们介绍到国民党里来了。”林伯渠也笑了，说：“我加入共产党是秘密的，你们加入国民党是公开的，怕大不同呢。”
1923年，陈炯明部被滇、桂、粤联军击败，余部盘踞惠州、潮汕、梅县一带。2月下旬，孙中山在陈炯明兵败后抵达广州就任大元帅，林伯渠也到了广州。这期间，陈独秀参加完共产国际四大后，亦将中央机关由北京迁到广州。1月23日，陈独秀还被孙中山以总理名义任命为参议。林伯渠由于在国共两党之间斡旋得力，在1924年1月广州国民党“一大”上，更是被选为国民党中央执行委员会候补委员，不久被孙中山指定为第一任国民党中央农民部部长。
然不久即发生了中山舰事件，1926年4月1日，蒋介石借口要改善中国国民党与共产党的关系，扬言为避免共产党在国民党内的力量发展引起“党内纠纷”，应有一个“消除误会的具体办法”，提出所谓《整理党务决议案》，主要内容是：加入国民党的共产党员在国民党中央、省、特别市党部中担任执行委员，其数额不得超过各该党部委员数额的三分之一;共产党员不得担任国民党中央各部部长;国民党员不得加入共产党;共产党须将加入国民党的共产党员名单交国民党中央主席保存;共产党对参加国民党的共产党员的指示，须事先提交国共两党联席会议通过方能下达等。
国民党左派何香凝、柳亚子等都投票反对这一别有用心的提案，但中共中央领导人陈独秀等和苏联顾问鲍罗廷采取妥协退让的态度，他们派张国焘等到广州指导出席国民党二届二中全会的中共党团。张国焘到达广州后，强使林伯渠等共产党员接受这个提案，使《整理党务决议案》得以顺利通过。蒋介石任中央组织部部长兼军人部部长，随后又任国民党中央常务委员会主席和国民革命军总司令，一手控制了国民党的党、政、军大权。
当时任国民党部长的共产党员仅有组织部长谭平山、代理宣传部长毛泽东、农民部长林伯渠。按照中央指示精神，林伯渠、毛泽东、谭平山三人无奈提出辞呈，5月28日，国民党中央执委会常委会议照准。据《陈独秀与中国名人》一书记载，在上海的陈独秀还就此写了《给蒋介石的一封信》和《中国共产党致中国国民党书》，说：“贵党‘整理党务案’原本关系贵党内部，无论如何决定，他党均无权赞否，凡为贵党党员者，当然有遵守之义务，而于党外之团体，则殊无所关涉。”
“林伯渠对陈独秀、张国焘等人采取妥协退让政策使左派受挫，一想起来就感到痛心。此时见蒋介石阴谋得逞，林伯渠心中又蒙上了一层阴影。陈独秀知道党内多数同志愤愤不平，提出了‘包而不办，退而不出’八字政策”。在此形势下，林伯渠到程潜任军长的国民革命军第六军任党代表兼政治部主任。第六军由警卫军、建国赣军、攻鄂军、湘军第五师以及收降的洪兆麟叛军残部改编而成，战斗力薄弱。林伯渠到任后，纠正队伍中的混乱思想，便成了他的主要工作。同时，他还在军中发展共产党员和团员，并挑选党员团员以及国民党左派人士担任政治工作，使得六军战斗力迅速提高。
林伯渠很早就主张共产党要掌握军队，在组建国民革命军第六军时，还曾建议中共广东省委多建几个师，但陈独秀当时却认为北伐时机不成熟，在其影响下，当时中共广东省委主持军委工作的同志反斥责林伯渠有军阀思想，将林伯渠的正确主张予以否定，结果北伐时第六军兵力仅有3000余人。
1926年7月，北伐军正式出师，林伯渠随第六军行动。次年3月24日，在第二军配合下，第六军攻下南京。此时谭延闿按照汪精卫、唐生智等人的旨意，在一块绸布上写下密令派人交给程潜，要他在南京截留逮捕蒋介石，林伯渠直接参与了武汉方面打算逮捕蒋介石的谋划，并亲往南京与程潜进行接洽，但程潜并未同意。4月3日，程潜察知蒋将发难，遂假调和之名，离开南京急赴汉口报告。蒋介石下令第二、六两军离开南京，程潜令他们不要过江，不幸电报被蒋截获。4日，蒋介石所部第七、十、三十七、四十等军预先埋伏，包围监视，在南京的第六军第十九师陷入重围，被蒋介石解除武装。28日，蒋介石在南京借口驱逐共产党，解除了第六军剩余部队的武装，然后将其遣散改编。
5月中下旬，武汉国民政府命程潜恢复第六军。军长程潜遂在湖北武汉收容旧部。六军成立后，27日晚上，林伯渠邀请陈独秀到汉口紫阳里52号寓所商谈有关事宜。
“许克祥在湖南杀的都是共产党员和革命群众，现在形势更加严重，你要有准备。”林伯渠忧虑地说。眼看夏斗寅、许克祥相继叛变，武汉什么事都有可能发生，陈独秀也知道形势很坏，不久前已搬出中央机关61号，和秘书隐居起来。他接过林伯渠递来的香烟，停了半晌没有擦火柴，问道：“你对和森提出的‘两湖决议案’怎么看”(在“两湖决议案”中，蔡和森认为解决许克祥，要靠农民群众自己，提出发展农民军队5万以上，甚至提出推翻代表土豪劣绅的国民党中央。)犹豫了一下，林伯渠点头说：“共产党目前很困难，要反蒋就少不了武装。蒋介石解散第六军，我和程潜都感到有责任，这是一个大教训。和森的发展军队计划，我在去年北伐前就提过建议。”
提到程潜，陈独秀眼睛一亮，问：“如果把第六军培养成中央工农军，程潜会同意吗”“这事怕要你当面和程潜谈。”林伯渠这么说是有道理的，当时他虽然与程潜私交甚笃，而且林伯渠的三弟林祖烈即是程潜的女婿，两人属姻亲关系，但改变军队性质，非同小可，程潜是什么态度，他也没有十足的把握。
1927年6月的一天，在林伯渠家中，陈独秀再次提到上次谈到的话题，说：“能不能约程潜谈谈”当时形势已异常紧张，汪精卫反共意图日益明显，林伯渠也感到这是最后的机会了，便说：“好，我请李世璋找一个僻静地方，然后再约你。”李世璋是位著名的民主人士，他在1925年北京孙中山先生追悼会上与林伯渠相识，1926年组建第六军时，为政治部秘书，重组第六军后，任军政治部代主任。
几人见面后，程潜提出先听陈独秀的想法，陈独秀遂说：“如将六军培养成工农军，须将六军中下层干部送海参崴培训。”程潜踌躇了一下，转身问林伯渠：“你的意见呢”林伯渠早有准备，遂回答说：“做政治工作的人比较适合。”程潜说：“那就让李世璋去。”不幸的是，这个方案最后因汪精卫分共，陈独秀被免职而未能实施。更为遗憾的是，这次会见竟成林陈两人的永别，“此后林伯渠参加南昌起义，陈独秀隐居上海，两人再未见面”。[page]
历史的遗憾
陈独秀被开除党籍后，与尹宽、彭述之等“陈独秀派”分子成立了“中国共产党左派反对派”的常务委员会，自任总书记。1931年5月1日，陈独秀等人又于上海召开中国托派组织大联合的“统一大会”，正式成立“中国共产党左派反对派”，陈独秀后出任“中国共产党左派反对派”总书记，自此正式走向了林伯渠等中共党人的对立面。
然“中国共产党左派反对派”成立还不到三个星期，便遭受致命打击：由于叛徒告密，委员会成员悉数被捕。
经历几年牢狱生活后，1937年8月23日，在全国人民“一致抗日”的强烈要求下，经过中国共产党代表周恩来、董必武等人的有力斗争，蒋介石释放了一大批政治犯，面色苍白的陈独秀亦带着一丝矜持的微笑，神态自若地步出国民党南京模范监狱的大门。出狱后，陈独秀曾想去延安，他托人转告中共驻南京的代表，说明自己已脱离托派组织，对中国共产党的抗日民族统一战线政策表示拥护，愿意在党的领导下工作。陈独秀还亲自写了一封信，并起草了抗日的七条纲领，托罗汉转给中共中央。罗汉持中共办事处开的介绍信和供给的旅费，于9月2日到达西安，见到了时任八路军驻陕西办事处党代表的林伯渠。
见到林伯渠后，罗汉将他和陈独秀组织托派，及陈独秀出狱后想回延安的事说了一遍。提到陈独秀，林伯渠陷入了对往事的回忆，说：“和仲甫一晃有十年未见面了，他在文化史上有不可磨灭的功绩，在党的历史上，有过比别人不同的地位。”说到这里，林伯渠皱了皱眉头，说：“只是仲甫脾气太倔。”罗汉听后问：“依林主席看，陈先生想回延安，能让他去么”“仲甫能否回延安，关键在他自己，倘能放弃某些成见，回到一条战线上来工作，于民族于社会都是极需要的。”罗汉知道，林伯渠讲“某些成见”，是讲他们的托派活动，遂吞吞吐吐地说：“仲甫与党中央有过争论，我担心延安不让他回去。”
林伯渠摇了摇头，说：“仲甫曾经站在时代前头，我希望他站在大时代的前面，过去的一切是是非非都无需再费笔墨唇舌去争辩。”沉思了一下，林伯渠说：“此事非同一般，须党中央拿意见，我即给延安拍电报，请示中央，你稍住几天。”林伯渠给延安拍电报的大意是：仲甫等已出狱，愿意回到党的领导下工作。弟意中央为集中整个力量着眼，可联合他们回党工作。罗汉后来曾回忆说：“与伯渠兄详谈。伯渠当即电询延安方面，是否需我前往。随得复电相招。但彼时因山洪毁路，汽车不通，一时无法前往”，于是改由“经过电台解决”。
收到林伯渠电报后，毛泽东等人经过慎重商讨，于9月10日以“洛甫、毛泽东”名义签发致林伯渠《关于对付托陈派分子的原则的指示》：
伯渠：
话告罗汉我们对托派分子的下列原则：
(甲)我们不拒绝同过去犯过错误而现在真心悔悟，愿意抗日的人联系，而且竭诚欢迎你们的转变。
(丙)至于其他关系，则在上述且条件实现之后以再行考虑。
洛、毛
然说归说，在周恩来等人的劝说下，陈独秀与党的关系一度又有所缓和，让林伯渠甚为欣慰。不料，12月9日至14日，在中共中央政治局会议上，由苏联归国的王明却用“汉奸”、“托匪”、“杀人犯”等词来攻击托派，并指责陈独秀是每月拿日本300元津贴的日本间谍。翌年1月28日、2月8日，康生秉承王明的旨意，于《解放》周报第一卷第二十九、三十期发表其撰写的一篇长文《铲除日寇侦探民族公敌的托洛茨基匪徒》，公开污蔑陈独秀为日本间谍、汉奸。