生枝，说国民党内所以发生两派纠纷，是共产党员在国民党内从事党务活动而不肯公开造成的。他提出三个解决办法：“（一）共产党员加入中国国民党时，声明自己是共产党员。（二）共产党员要将在国民党内的活动公开。（三）中国国民党员加入共产党时，要得该地党部之许可。以上三样办法，如果办到，其纠纷将不解自解。”毛泽东等相继作了反驳。毛泽东发言说：关于共产党人的身分，“如果怕声明自己是共产主义者，也决不是真正共产党员了。但是共产党在中国还算是一个秘密组织，与俄国共产党执政可以公开活动，情形不同。在中国共产党一日未能取得法律地位，是不能不秘密的。如在上海等地，也要声明，便马上要受枪毙了”。关于共产党的活动，“在共产党的友党中国国民党势力之下公开是可以的。但在他处，也要公开，就马上要给人解散消灭，这便足以使国民革命中一部分力量受一个重大打击，也于革命前途是不利的”。至于国民党员加入共产党的问题，“无论何党，党员出党入党应有绝对自由，实不必有若何的限制”。这些发言得到很多代表的赞成。袁同畴不得不表示：“本席可以收回前时的提议。”⑿
这次会议上，毛泽东再次当选国民党中央候补执行委员。中央常委会批准毛泽东继续代理宣传部长。他又调进萧楚女、沈雁冰等一些共产党员。宣传部“人才济济，一时有人才内阁之称”，“实际上宣传部的工作都是共产党做的”⒀。
但是，这次大会在陈独秀等人的影响下，对势力正在坐大的国民党新右派却没有触动。“中国共产党中央主席团和共产国际的代表了解到国民党和共产党之间的关系中存在危险。为了排除这种危险，他们准备向新右派（戴季陶）作出让步。”在选举问题上，他们甚至一开始就打算退让，决定“只应有两名共产党员进入国民党中央”。只是由于出席会议的共产党员和国民党左派们强烈反对，才使新选出的三十六名中央执行委员中，共产党员有七名，二十四名中央候补执行委员中，共产党员有六名。蒋介石在这次会上第一次当选中央执行委员，随后又被选为常务委员。在国民革命军里，他原来只是一个军的军长，此时又担任了国民革命军的总监。这就为他篡夺领导权埋下了隐患。后来，毛泽东谈到国民党二大时说：“第一个失败的关键是二次代表大会，我主张反击。因我们有三分之一，左派三分之一，其他三分之一，左派很赞成，结果我们自动退却”。⒁
中国共产党出于善意的退让并没有使联合战线内部的矛盾因此缓和下来，相反，倒是更壮了国民党新右派的胆。二大结束后才两个月，蒋介石就制造了“中山舰事件”。三月二十日，他无中生有地说共产党人私调中山号军舰要劫持他离开广东，借此逮捕了代理海军局长李之龙（共产党员），在广州实行戒严，监视和软禁大批共产党员，解除工人纠察队的武装，包围苏联领事馆。
事件发生的当天晚上，毛泽东就赶到苏联军事顾问团的住所，同顾问团代理团长季山嘉商量对策。中共广东区委书记陈延年也在那里，他们俩都主张反击，毛泽东建议动员在广州的国民党中央执监委员，密赴肇庆叶挺独立团驻地开会，通电讨蒋，削其兵权。⒂但遭到拒绝。随后，他又到国民革命军第二军副党代表李富春家里了解情况，正好碰上第一军副党代表兼政治部主任周恩来。周恩来回忆说：“我在富春家遇毛，毛问各军力量，主张反击。……我听了毛的话找季山嘉，他说不能破裂。”⒃
当时，毛泽东、周恩来、陈延年、李富春等对情况的分析是：黄埔军校有五百多共产党员，在广东的国民革命军六个军中，五个军的军长和蒋介石有矛盾，而蒋的第一军中政治骨干大部分是共产党员，我们还掌握了一个叶挺独立团，从力量上看是可以反击的。只要我们态度强硬，国民党左派也会支持我们。
这些建议都被拒绝。当时正率苏联共产党代表团在广州访问的依文诺夫斯基也不同意，他是苏共中央委员、苏联红军政治部主任，在处理中山舰事件中事实上处于决策地位。在上海的中共中央也主张妥协。三月二十九日还发出指令说，“蒋介石的行动是极其错误的，但是，事情不能用简单的惩罚蒋的办法来解决，不能让蒋介石和汪精卫之间的关系破裂，更不能让第二军、第三军和蒋介石军队之间发生冲突”。对蒋介石，“我们现在应该全力拯救他，将他从陷入的深渊中拔出来”。
蒋介石确实很快从中山舰事件陷入的政治危机中“拔出来”了。不到两月，他就在国民党二届二中全会上借口避免“党内纠纷”，提出一个《整理党务案》，规定共产党在国民党省、市以上高级党部任执行委员的人数不得超过三分之一，共产党员不能担任国民党中央各部部长。中共中央派张国焘、彭述之来指导出席二中全会的中共党团。在讨论是否接受此案时，一连七天都没有结果。最后，张国焘按照他和苏联顾问鲍罗廷以及陈独秀商定的意见，要求与会的共产党员签字接受。毛泽东没有签字，全会表决时也没有举手。具有讽刺味道的是，何香凝、柳亚子、彭泽民等国民党左派都激烈地反对《整理党务