中山艦事件發(fā)生之后10日，鮑羅廷自俄國返回廣東，多次與蔣介石會商國共合作問題。為“整軍肅黨，準(zhǔn)備北伐”,蔣介石向中央提出召開二屆二中全會的建議，得到采納^[1]。
1926年5月15日，國民黨二屆二中全會在廣州召開。會議著重討論了整理黨務(wù)的問題。會議期間，蔣介石以“消除疑慮，杜絕糾紛”和改善國共關(guān)系為由，與譚延闿、孫科、朱培德、宋子文、陳公博、甘乃光、伍朝樞、程潛、經(jīng)亨頤、林祖涵等人，提出四份議案：其一是整理黨務(wù)案；其二是國民黨與共產(chǎn)黨協(xié)定事項(xiàng)案；其三是選舉中央執(zhí)行委員會主席案；其四是國民黨全部黨員重新登記案。
第二項(xiàng)議案是蔣介石單獨(dú)提出來的，內(nèi)容主要包括：(1)凡他黨黨員之加入本黨者，各該黨應(yīng)訓(xùn)令其黨員，明了國民黨之基礎(chǔ)為總理所創(chuàng)造之三民主義，對于總理及三民主義不得加以懷疑或批評。(2)凡他黨黨員之加入本黨者，該黨應(yīng)將其加入本黨黨員之名冊，交本黨中央執(zhí)行委員會主席保存。(3)凡他黨黨員加入本黨者，在高級黨部(中央黨部、省黨部、特別市黨部)任執(zhí)行委員時(shí)，其數(shù)額不得超過各該黨部執(zhí)行委員總數(shù)三分之一。(4)凡他黨黨員之加入本黨者，不得充任本黨中央機(jī)關(guān)之部長。(5)凡屬國民黨黨籍者，不許在黨部許可以外，有任何以國民黨名義召集之黨務(wù)集會。(6)凡屬于國民黨籍者，非得有最高黨部之許可，不得別有政治關(guān)系之組織及行動。(7)對于加入本黨之他黨黨員，各該黨所發(fā)之一切訓(xùn)令，應(yīng)先交聯(lián)席會議通過；如有特別緊急事故，不及提出通過時(shí)，應(yīng)將此項(xiàng)訓(xùn)令請求聯(lián)席會議追認(rèn)。(8)本黨黨員未受準(zhǔn)予脫離黨籍以前，不得加入其他黨籍，如既脫本黨黨籍而加入他黨者，不得再入本黨。(9)黨員違反以上各項(xiàng)時(shí)，應(yīng)即取消其黨籍，或依所犯之程度，加以懲處。(10)為處理此項(xiàng)問題，設(shè)一聯(lián)席會議，由國民黨五人、共產(chǎn)黨三人參加^[2]。
在這次會議上，四項(xiàng)議案均獲通過。會后，中共在國民黨中央各部任部長者紛紛離職。組織部長譚平山離職后，其部長職務(wù)由蔣介石繼任，不久又改由張人杰擔(dān)任；顧孟馀繼毛澤東之后擔(dān)任代理宣傳部長；甘乃光代替林祖涵任農(nóng)民部長；宣傳部長由邵元沖繼任；秘書長在譚平山、林祖涵、楊匏安三人去職后，由葉楚傖擔(dān)任。在新組成的中央執(zhí)行委員會中，蔣介石任主席，后因出師北伐，將主席職務(wù)分別請張人杰、譚延闿代理。在張人杰任組織部長期間，陳果夫任秘書，不久代理部務(wù)。時(shí)部中職員為二十九人，跨黨黨員有二十六人，其他各部及各級黨部共產(chǎn)黨員人數(shù)也不少。經(jīng)陳氏按二中全會決議“整頓”,國民黨中央黨部中共產(chǎn)黨的人數(shù)被嚴(yán)格限制在三分之一以內(nèi)，各部部長則共產(chǎn)黨人無與焉?！?br>為了向黨內(nèi)外說明整理黨務(wù)之目的，會議發(fā)表了《整理黨務(wù)宣言》。《宣言》指出，中國國民革命的最大障礙，不是帝國主義與軍閥的壓制，而是“內(nèi)部的沖突與糾紛”。為增強(qiáng)自身力量，中國的革命勢力必須“嚴(yán)密團(tuán)結(jié)于三民主義之下”。改組國民黨，與一切革命勢力合作，是孫中山具有“歷史價(jià)值之決定”,它使國民黨成為“中國最大之政治勢力”。在這種情況下，軍閥與帝國主義“散布謠言，以引起吾人內(nèi)部之糾紛”,主要手段就是“宣稱國民黨為共產(chǎn)主義之集團(tuán)”,致使國民黨內(nèi)部產(chǎn)生疑慮。若不消除疑慮，則國民革命運(yùn)動將蒙受損失。因此，本屆中央執(zhí)行委員會“一致接受整理黨務(wù)案”,以消除疑慮，減少沖突與糾紛。宣言最后指出：“若帝國主義者、軍閥與反動派對于此規(guī)定合作原則之整理黨務(wù)案遽引為慶幸，實(shí)為大愚。本屆中央執(zhí)行委員會深信此次決議案，決非對任何方面表示無意識之妥協(xié)，而實(shí)為排除障礙，團(tuán)結(jié)革命分子，以與世界帝國主義、軍閥、反動派作更有力之戰(zhàn)斗。革命分子之團(tuán)結(jié)愈堅(jiān)固，即國民革命之力量愈增進(jìn)也。”^[3]以后一段時(shí)間，國民黨內(nèi)部“沖突與糾紛”有所減少，但這是通過限制共產(chǎn)黨活動的方式來實(shí)現(xiàn)的。