在国民党内武汉与南昌两大势力激烈斗争的同时，战场上，北伐军与北洋军阀的安国军正在沪、宁、杭一带激烈厮杀。
作为五省联军总司令的孙传芳，到1926年12月份，已经丢掉了江西和福建两个少，成为三省联军总司令了。
为了能保住现有的三省地盘，他不惜拥护张作霖当安国军总司令，自己和张宗昌任副总司令。孙传芳自知无力阻止北伐军，于是牺牲苏皖一些地盘，把张宗昌推到同北伐军对抗的第一线，让张的部队开到南京及沪宁铁路一线。
对于沪、宁、杭这片中国经济最为富足、人口最为集中、交通最为便利的地区，蒋介石可谓“神往久这”。
蒋介石是浙江人，辛亥革命后在上海闯荡多年，跟随陈其美搞革命，后又与张静江、戴季陶等人做交易所生意，他对上海巨大的经济实力及其对国家财政的重大作用有着深切的认识。
在追随孙中山从事革命期间，他曾几次上书孙中山，强调上海、浙江地区对于国民革命的重要性。当北伐大计决定后，蒋介石远远地盯住上海。
1926年8月，北伐军出师不久，两湖战场战事正酣，蒋便派吴稚晖、钮永建以国民党江苏特务委员的名义赴上海做敌后策反工作。如今，在北伐胜利进军的形势下，蒋介石一定要将沪、宁、杭置于自认为政治上可靠的军队手中。
江西战事结束以后，蒋介石即令白崇禧任东路前敌总指挥，率领四个师，率先由赣入浙，归何应钦辖制。
苏联军事顾问加伦参与了北伐军作战计划的制定。在考虑北伐军三路进攻上海、南京的计划时，加伦有意让何应钦的东路军从杭州地区进攻镇江和南京。并且，加伦计划将单独占领南京的权利交给程潜的部队，而将何应钦的主力派往镇江、宜兴一带。这样做从表面上看仿佛是为了控制沪宁铁路，“实际上是为了不让他们首先占领南京。”他的这一计划得到了蒋介石的首肯。从蒋介石的角度讲，这样安排正好可以保存何应钦第一军之实力。
3月24日，程潜的第六军谭延闿的第二军攻克南京。25日，何应钦才率第三、第十四师进驻南京。
何应钦进入南京后，其第一军俨然以“首功”部队自居，公然抢夺战利品，将大批的军用物资从程潜的眼皮底下抢走。程潜曾几次找到第一军苏联顾问契列潘诺夫诉苦，希望他制止何应钦的抢劫行为，以维护第六军与第一军之间的团结。但契列潘诺夫此时实际上已处于被监视和软禁的地步。
占领沪、宁、杭这一大块中国的富庶之地后，蒋介石所处的外部环境也发生了明显的变化。
为适应反苏、反共的政治需要，蒋介石在外交政策上实行了重大转变。他公开放弃联俄政策，转而联合西方国家
1927年1月中旬，蒋介石自武汉返赣后不久即会见了日本驻九江领事江户千太郎，明确表示，他非但不打算废除不平等条约，而且还要尽可能地尊重现有条约，保证承认外国借款，并如期偿还；外国人投资的企业将受到充分的保护。
此外，蒋介石向来华访问的日本官员小至敬二郎表示：我们没有受苏俄利用和指导，苏俄不可能在中国再现，我们也没有考虑过用武力收回上海租界。蒋还明确表示：我欣赏日本外相的演说，如果日本正确评价我们的主义和斗争，我愿意同日本握手。
蒋介石向日本表明意向之后，急欲得知东京的反应，便派黄郛去汉口联络日本总领事高尾，遣戴季陶东渡日本“转风试探”。而日本内阁和军部的意见完全一致，确定了“怂蒋反共”的方针。
在暗中联系日本的同时，蒋介石还通过多条渠道与美国等西方国家接洽，并相继得到了他们的支持。
蒋介石集团酝酿全面“清党”，除了需要西方国家的支持外，还必须得到国内各种反共势力的支持。
江浙财团是蒋介石反共清党的重要依靠力量。对于北伐战争，江浙财团从其自身利益出发，持积极赞助的态度。但随着北伐战争的节节胜利，工人运动空前高涨，日益发展的工人运动使江浙财团盼望蒋介石能够“肃清共产分子”。
为此，江浙财团在经济上给蒋介石提供了一笔又一笔巨款。如上海金融资本家钱新之、陈光甫资助蒋介石50万元，解决了蒋的年关急需。3月29日，上海商业联合会代表会见蒋介石时表示愿意认捐500万元。4月1日，上海金融资本家向蒋垫付了300万元，直接资助蒋介石发动反共政变。
蒋介石也看清了与武汉分裂、与共产党分手的不可避免性，国民党三中全动还没结束，他就在南昌强迫解散国民党南昌市党部、南昌市学联，封闭《贯彻日报》。
17日，在他的指使下，右派武装又制造了九江惨案，杀害了九江市党部和总工会负责人。接着，他们又制造了安庆惨案，捣毁了安徽省党部和总工会。
国民党二届三中全会结束后不久，李宗仁由武汉乘轮船东下，武汉国民政府为了拉拢他，派出郭沫若、朱克靖带着委任状赶到安庆，委任他以第七军军长之身份兼任安徽省政府主席。
李宗仁看到武汉国民政府最终不可能扳倒蒋介石，便推辞掉了武汉方面的委任。他的理由是：“政治非我所长。
郭沫若等禽去不久，蒋介石亲自从九江乘军舰来到安庆，同样带去了任命李为安徽省主席的手令。李宗仁虚意推辞了几句后，最终接受了蒋的任命。蒋介石在清党的道路上，又争取到了一位颇具实力的拥护者。
蒋介石是秘密进入上海的，自从1924年筹办黄埔军校，他辞职跑回上海，到这次重返上海，已经整整相隔三年了。
蒋介石和警卫队百十号人，驻扎在南市董家渡附近。
他决定随带卫士长密熙便衣进入法租界，为了保护蒋介石的安全，卫士队抽调了六十多人，分乘两辆军用卡车，由董家渡出发，经外马路转一枝春街，准备进入法租界的爱多亚路。
车到一枝春街口，被法租界的巡捕拦住，不许卫士们入内，并把两辆军车拦进法租界巡捕房，把卫士长扣押了。黄金荣得知后，驱车赶往巡捕房，向巡捕头头解释：蒋是来看他的，这才放行。
蒋介石由虞洽卿伴同，走进黄金荣家中，纳头便拜，口称：“先生！”
黄金荣急忙扶住蒋介石：“总司令亲自到我家是我的光荣，过去的那段关系已经过时了。那张红贴我找出来交给虞老送还”。
原来，蒋介石初到上海，在物品交易所当“划线”小职员，收入不多，很不得意。耳闻黄金荣的势力，就托虞洽卿介绍拜黄金荣为先生。黄金荣同意之后，由徐福生当传道师，正式举行拜师仪式，投了门生帖子。
1921年上海交易所发生不景气风潮，蒋介石和陈果夫、张静江等经营的恒泰号经纪行亏空巨大，蒋本人亦负债数千元，经黄金荣、虞洽卿出面代为了结。当时蒋想去广州投奔孙中山，黄金荣认为自己替孙中山出过力，就与虞洽卿一同资助旅费，使蒋走上“国民革命”道路。
蒋介石咂了咂下唇，说道：“先生总是先生，过去承黄先生、虞先生帮忙是不会忘记的。”说罢，从怀中取出一只黄澄澄的金挂表送到黄金荣面前。“这是我送给黄先生的纪念品，聊表心意”。
黄金荣接过来，侧耳谛听，眼晴兴奋地闪闪发光，说道：“总司令真是个礼重义厚的大人物，我能受此重大礼，真是一生荣幸。”后来，黄金荣时常把玩这只金表，爱惜备至。每逢喜庆大事，总要拿出来炫耀一番，一直保存到死后，被黄源焘取去。
“我这次到上海，是要赶跑军阀，还请先生帮忙”。蒋介石言归正传。
“这没问题。”黄金荣仰在沙发上，用袖子揩着紫铜般的脸“我可以给你筹集十万元的慰劳费。”
“另外，要防止共产党釜底抽薪，一旦发生血战，请先生派人……”
“这你放心。我和杜月笙、张啸林等已经组织了‘中华共进会‘，届时只要他们稍有动作，立即缴他们的械！你那个黄埔先生姓周的，在上海到处举行起义，我们已是忍无可忍……”
蒋介石翕动着鼻孔：“他不肯跟我合作。把我的许多学生都拉到一边，我不会轻饶他！”他又转向黄金荣，低声说，“事成之后，我以陆军总司令名义，聘请先生为少将参议如何？”
黄金荣侧耳倾听，微微显出激动：“是真的？要是杜老板，张老板也有个头衔……”
“他们可以当少将顾问。如果我的政府成立了，你到政府来当参议。”
黄金荣大喜过望，连忙吩咐人摆宴，给蒋介石接风。
3月26日晚，蒋介石乘汽车去公共租界西摩路访宋子文。
在法租界与华界交界处，有个铁栅栏。每到晚上，栅门关上，不许中国人出入。有两个巡捕站岗，一个外国人，一个中国人，游动巡视。蒋介石和密熙坐头一辆小汽车，后面还跟着那两辆卡车，一到门口，又被拦住了。密熙下车招呼：“我们是北伐军蒋总司令的汽车，请开门放行。”
外国巡捕向中国巡捕扬扬手，对方会意，立即打电话报告巡捕房。一刻钟之后，开来两辆摩托车，从车上下来两个法国军官和两个中国巡捕。他们走到铁栅门前，打开铁门。
法国军官向蒋介石行了军礼，说着：“欢迎！欢迎！”于是两辆摩托车在前面作向导，卫士车跟着开入法租界，一直到西摩路宋子文住宅。
宋子文西装革履，他热情招呼蒋介石，寒喧一番。
蒋介石侃侃而谈：“北洋军队的士气已经瓦解，东南半壁已成传檄而定之势，上海即在北伐军的包围之中。但是，上海是外国势力支持的城市，直鲁军毕庶澄，李宝章等得到他们的支持，作困兽犹斗之势。你跟这些外国商局熟悉，我想取得他们的谅解，和平进入上海，只有靠你疏通了。”
“共产党方面怎么办？宋子文问。
“这你放心，青洪帮老龙头我都一一拜过，他们负责防范共产党和工会”。
“外国人我去交涉。”宋子文脸上表露出鄙夷神情。正说着，出去过一小时的法国军官又回来了，他和宋子文用英语说话，并交给他三张证件。
“有了这个，你们就可以自由进出租界了”。宋子文将三张证件交给密熙，对蒋介石说。
蒋介石站起，同法国军官握手，送至门口。
蒋介石和宋子文又移至餐桌叙谈。餐桌旁坐着面色安详的宋老太太，邻座还有宋蔼龄。到九点多钟，从外面进来一位姑娘，她坐在餐厅里仅有的一张沙发上，用纤纤细手捂住自己秀丽的眼睛，这样呆了几秒钟，仿佛要让精神和眼睛休息一下。过了一会儿，她却若无其事伸出手臂，把茶几上的一束腊梅提起，又插进花瓶。
“蒋先生，请你到楼上我的房间来”。
蒋介石一听就从椅子上跳起来，一丝喜色迅速在他脸上掠过：“你先上楼吧，我一会儿就来。”
姑娘上楼一刻钟之后，蒋介石也上了楼。
宋子文仰头笑笑，宋蔼龄欣喜地拉住宋老太太，宋老太太勉强露出一点笑容。
密熙问看门人：“这个姑娘是谁？”
看门人说：“他是宋部长的妹妹宋美龄小姐，在美国留学刚回来不久呢。”
密熙点了点头。本来，他很熟悉陈洁如，以为蒋介石与陈洁如的婚姻是完美的。听人说蒋介石与宋家三小姐有瓜葛，此刻才相信是真的。
直到11点，蒋介石才兴冲冲下楼。他已同宋子文说好，所有随从人员都住在宋宅，他带着密熙和两个卫士一同乘汽车到迈尔西爱路陈洁如处。
4月2日，蒋介石在上海高昌庙江南兵工厂里面的北伐东路军前敌总指挥部，召开紧急秘密会议。
蒋介石身着笔挺的细呢上将军服，目光平视，严肃矜持，刻意掩饰着激动：民国十三年国共合作、共产党加入国民党的时候。他们就不怀好意，他们的的组织仍然保存，并且在我们党内发展组织。自中山舰事变之后，这种阴谋日益暴露。北伐军到了武汉，中央某些机关和某些人受了分化或者受了劫持，把武汉同南昌对立起来，因此，现在如果不清党，不把中央移到南京、建都南京，国民党就要被共产党所篡夺，国民革命军就不能继续北伐，国民革命就不能完成！”
与会者都屏息静听。
“此事关系重大，”蒋介石松下肩膀，靠在椅背上，缓下语气说，“我要听听大家的意见”。
东路军总指挥白崇禧仿佛在打瞌睡，低垂着眼脸。蒋介石怕他说出有悖于自己的话，也不催促他表态。
白崇禧，号称“小诸葛”，又是蒋介石的参谋长，他咀嚼着每个发言者的每句话，使得他自己的发言周密细致：“上海自我军占领之后，工人就组织纠察长封锁租界。他们有自己的武器，有自己的指挥系统，不服从军事长官的指挥。他们要冲入租界，占领租界。现在外国领事团已经提出严重警告，黄浦江上布满了外国兵舰，兵舰上的大炮都卸了炮衣指向我们，租界里新近调来了不少外国军队。如果发生冲突，不但聚全国精华的上海完了，北伐事业也要完了。”
“这你放心”，蒋介石向他扬了一下手，黄金荣、杜月笙、张啸林、杨虎的关节我都已疏通，他们坚决反共！我们先要占领上海！”
蒋介石下意识地摸摸光溜溜的腮帮子，用平静如常的声调宣布：“险象如此，讵能再安缄默？大政方针已定，宜即通电各地，护党救国！”
蒋介石反共清党的决心已定，但在准备工作尚未充分的时候，他还故意做出种种姿态，欺骗和麻痹上海工人。
3月28日，他接见了上海总工会交际部主任赵子敬，针对市面上关于军队要对工人纠察队缴械的传闻，他明确表示：工人纠察队本应武装，断无缴械之理。如有人欲缴械，余可担保不缴一枪一械。
当赵子敬谈到恐有流氓乘机捣乱纠察队及敝会等问题时，蒋马上回答说：此事送给上海总工会纠察队一面“共同奋斗”的锦旗。
其实武汉方面也知道单靠决议已不足以控制蒋介石，在几经犹豫之后，武汉政府在3月下旬还曾草拟了一个伺机逮捕蒋介石的密令。
这份密令由谭延闿亲笔写在一块绸子上，准备交给程潜执行，同时责成二、六两军控制南京地区。3月27日，林祖涵将密令缝在衣服内，以代表国民政府慰劳前方将士的名义东下。同时，张国焘则以机密方法，通知在上海的中共中央，要求就近予程潜以协助。
程潜接到武汉政府的命令后，马上对林祖涵说：“那不行，我不能做分裂国民党的罪魁祸首。这样对不起孙中山先生。六军政治部主任李世璋以形势危急相劝，但程潜执意不从。
4月1日，程潜下令：除渡江部队外，其余部队概行集结南京。同时，他还以全体官兵的名义通电拥护武汉三中全会决议。他将军长职务交杨杰代理，将卫戍南京的任务交贺耀祖负责，自己便随林祖涵回了武汉。令程潜意想不到的是，他所托付重任的杨杰、贺耀祖，此前已经倒向蒋介石一边。
4月2日是一个不平静的日子，这一天，李济深、黄绍竑接受李宗仁的电报邀请来到上海。蒋介石等人一起来到白崇禧的东路军前敌总指挥部，召开龙华反共会议，决定了反共清党的大政方针。
这次秘密会议以后，为了使反共清党合法化，蒋介石又在上海道尹公署楼上开了一次秘密谈话会，这次会议就决定向中央监察委员会提出一个检举共产党谋叛的呈文，并盗用中央监察委员会的名义据以咨请中央执行委员会、国民革命军总司令蒋介石以及地方军事当局作“非常紧急处置”。咨文提出：将各地共产党首要的危险分子，就地知照治安机关，分别看管，制止活动。
武汉方面仍在紧张地做着挽救危机的各项工作，他们的工作虽然显得雷声大、雨点小，但其焦虑心情十分明显。
4月2日，在武汉国民党中央常务委员会第五次扩大会议上，孙科提出，蒋总司令自江西到上海后，即被反动势力包围与利用，形成一个反动中心，建议立刻下一道训令给蒋介石，要他立即离开上海，回到南京去，专负军事方面的责任。
5日，武汉国民党中央政治委员会根据军事委员会的呈请，决定废除总司令，改为集团军，任命蒋介石为第一集团军总司令，冯玉祥为第二集团军总司令，阎锡山为第三集团军总司令，唐生智为第四集团军总司令，朱培德为总预备队总指挥，杨树庄为海军总司令。
4月11日，蒋介石发出密令，命令已克复的各省一致实行清党，上海的形势骤然紧张起来。
深夜，外国驻军越过租界，在南市、沪西、吴淞、虹口、闸北地区，拘捕共产党员和工人群众1000多人，解送驻龙华的白崇禧司令部。
杜月笙的爪牙早有一部分混到了总工会和工人纠察队中，他们预先仿制了不少总工会用的标志，事前由杜与租界方面商量好，同意流氓和特务在租界内集中，配合正规军去解除工人纠察队的武装。
4月12日凌晨4点钟以前，杜月笙和黄金荣、张啸林分别集合了他们的党徒，杜的爪牙高金宝、芮庆荣等由顾嘉棠率领，黄的门徒由唐嘉鹏、顾竹轩率领，杨虎特务处的特务由彭伯威率领。他们一律工人装束，佩带工字臂章，携带武器，分股从租界铁门冲向南市和闸北工人纠察队驻地及电车工会、三山会馆、湖州会馆、申新纱厂等地。
这批冒充工人的特务、流氓，乘纠察队员尚在梦中时，缴了守卫的枪支。
4月12日上午，蒋介石派出大批特务人员，一群臂章上写着“工人”字样的雇佣恶棍袭击工会大厦。上海总工会委员长汪寿华及路过上海的总政治部后方留守主任孙炳文被捕，送龙华未经审讯，即被秘密枪杀；
同时派出流氓、工贼配合刘峙的第二师、周凤歧的二十六军分向闸北、南市、浦东、吴淞各处，向工人纠察队进攻；又派陈群、潘宜之等率领特务及士兵多人，向西门林荫路上海特别市党部包围，欲一网打尽共产党员。三百多工人倒在血泊之中。有的被砍头，有的被枪杀，还有的被活活扔进火车头锅炉里。三天里，共产党人被捕五百多人，失踪五千多人。
工人纠察队被缴械，激起了上海工人的强烈反抗。各厂工人纷纷停工出厂，集会抗议。
12日中午，闸北和南市的群众分别召开有数万人参加的市民大会。会后，闸北区工人数万人游行至湖州会馆总工会所，要求军队撤退，交还上海总工会会所。开始军队还想拒绝，但看到群情激昂，局面无法控制，才撤出会所。这天夜里，总工会里有工人万人，露宿庭院中，忍受冷风苦雨不肯离去，以保护工会。
下午1时，群众冒雨举行示威游行，到宝山路二十六军二师司令部请愿。当游行队伍进行到宝山路三德里时，遭到军队的袭击。早已接到屠杀密令的军人分头冲出，向群众开枪扫射。当场打死100多人，伤者无数。宝山路一带百余丈马路，立时变成血海。
接着，军队又闯入附近居民区搜查，抓到身着青布短衣的工人，就拉到马路边枪杀。这些军队制造血案后，即实行清街，用大车将死者拖至荒郊埋藏，每车堆装10余人。尚有重伤而未死者，也被横拖倒拽放置车上，丢入土窑。
与大屠杀进行的同时，在东路军前敌总指挥部政治部主任陈群的授意下，一个自称为上海工联总会的组织成立了。陈群意在以这个组织来取代上海总工会。
13日下午，上海总工会被查封，打手们重新占领了总工会驻地湖州会馆。
14日，白崇禧以“市政府组织人员中，混有共产分子“为借口，下令封闭上海特别临时市政府。
当天下午，陈群指挥军警搜查和封闭了上海特别临时市政府、国民党上海特别市党部、上海学生联合会、平民日报社等团体和机关。
在此后的数天里，各革命工会组织概被查封，工人休会和罢工概被以“反革命”论罪，凡佩带上海总工会符号的工人随时都可以被拘捕判罪。
这就是由蒋介石策划发动的反革命重大事变，史称“四•一二政变”。
白色恐怖气氛，弥漫上海。工人为形势所迫，不得不冒险犯难，进行夺取军警武装来武装自己，斗争惨烈，工人的死伤更重。
由于蒋介石的野心，国共两党终于撕破脸了。蒋介石与周恩来维系的最后一丝断裂了，蒋介石清楚地知道，如果不趁机剔除周恩来，他在上海的政权就不会稳固。因此，他亲自下令悬赏八万元，不惜动用大量军警、黑帮势力，在上海缉拿周恩来。
“四•一二”事变后三天，广州发生了“四•一五”的清党事件，开始大规模逮捕并屠杀共产党员。周恩来在广州时居住的广东区委军委机关被搜查，邓颖超那时因难产后身体没有恢复，住在医院里，她怀的男孩没有活下来。
陈铁军化装去找她，要她赶快离开。周恩来去上海后，他们之间长期音讯不通。上海第三次武装起义，她也不知道是周恩来参加领导的。这时，接到周恩来的通知，要她赶快到上海，用化名登报找他。
当时局势已十分严重。医院里的医生和护士出于对革命者的同情，连夜将她转移到另一个地方。然后由护士送她上了去上海的轮船。到上海那天，正好是5 月1日。那时，“伍豪”这个名字，国民党还不清楚，就由邓颖超的母亲杨振德署名，登报寻找伍豪，周恩来见到寻人启事，立即派人把他们接走。邓颖超先在一个医院内躲了两个星期，以后找了所房子，周恩来和她在那里一起住了几天。
风声越来越紧，上海是不能呆了，周恩来决定先动身去武汉。
当时，跟在周恩来身边，担任警卫的陈赓拿出一条黑色细呢裤子，钉着镀金钮扣的上衣，领带和棕色尖皮鞋。最漂亮的是那顶员帽，帽子中间缀着铁锚，漆面的前遮檐闪闪发亮。
“试一下吧！我看尺寸差不多。”陈赓用水手的制服袖子擦去帽檐上的灰尘，递给周恩来。他去苏联学习了三个月的“契卡”，刚刚返回，就遇到蒋介石的大屠杀，他已化装成水手，想把周恩来打扮成船长或大副。
“等一等。”周恩来拿来一张照片交给陈赓，“你看看这是谁？”
照片上的人梳着中间开缝的分头，戴着一副眼镜。陈赓眯眼沉思着。
“是黄埔军校的！”周恩来提示一句。
“不认识。”陈赓摇摇头。
“哈哈！就是我！”周恩来笑起来。“这是我化装照的，办出国护照怕敌人认出来。现在放心了，连你这个在身边的大特务都没认出来，可见万无色失了。”
周恩来换上衣服，戴上眼镜，借助暗淡的灯光照了照镜子。“行，就这么穿着走吧”。
在虹口码头，他们被跟踪上了。这种被跟踪的感觉陈赓很熟悉。海参崴受训中专门有一节：怎么摆脱盯梢——关键是阻断视线。
他不再躲躲闪闪，而在码头门口溜达，在小摊上买东西。等到下船的人流奔涌而出，他便一把按下周恩来，蹲在地上，装作系鞋带。盯梢的人突然失去目标，又被涌出的旅客推向门外，急得伸长脖子……
货运处的工人给他们让开一条通道，他们跻身于等轮船的热烘烘的人群之中上了船。
暗探跟进货运外，被工人锁在货场两层铁门之间。
晚上10点多钟，英国轮船启航了。周恩来躲在三等舱里，两天没有出来。陈赓装作睡觉，手却紧紧握着裤兜里的手枪。船过芜湖时，军警上船搜索一番，一场虚惊。到了九江，才算松了一口气。周恩来换上便装，到甲板上同别人见面了。到汉口的时候，恽代英开汽车到码头来迎接，把周恩来接到黄埔军校武汉分校居住。
离开武汉后，张治中到上海见了蒋介石，当时陈铭枢也在座，蒋带着惊喜的笑容，说：“啊！文白也来了。”当时，蒋介石已是众叛亲离，也处于低潮之中，身边的人很少，张治中的到来使他失落的心情有了一丝的安慰。
从武汉来到上海，张治中真是感慨万千，内心矛盾极了，也痛苦极了。
以张治中的认识，当然是极希望国共合作下去，不希望看到两党分裂的。但是，眼看着两党之间的隔膜一天天加深，裂痕一天天扩大，而自己既无法挽救，又不能作壁上观。自己既不愿站在国民党的立场上来反共，何尝愿意站共产党的立场来反蒋？结果，只好徘徊于两者之间，挤在夹缝中讨生活，这真是一段令人十分哀伤的日子。
受了武昌南湖事件的打击，张治中决心摆脱离这种政治生活，出国学习，过一段超然海外的生活。因此，到了上海，张治中就把这个意思对蒋说了。但是，蒋的态度很坚决，表示不会同意。理由是“党国危亡，人才缺乏”，正是用人之时，一个得力干部，怎么可以作悠游海外之想呢？蒋的语气很恳切。
的确，在国共分裂、蒋汪火并和宁汉对立这一场大分化的混战过程中，张治中能只身从武汉出去，到上海来投蒋，这不能不让蒋感到得意，也不能不说是蒋的一个胜利。
本来，蒋看到许多过去的亲信干部都“叛变”了，站到汉口方面，心里真是痛恨极了。但是，“陈真如（即陈铭枢）回来了”，“张文白也回来了”，蒋在心理上得到了某种补偿。在蒋氏认为，“出一朝之命，以徇主上之难”，这才是真正的忠臣义士！虽然，中央军校武汉分校丢了，学兵团也丢了，不管他，不是说“ 千军易得，一将难求”吗！现在，能干的张治中来了，很好，我要用他，就让他给我办教育好了。丢了一个分校算什么，丢了一个学兵团算什么，我现在要把全军的训练工作，都交给张治中负责。
抵达上海之后，张治中又亲眼目睹了蒋一手策动的“四•一二”大屠杀。血，血，血！只有鲜血，才是政权的代价！不过，耐人寻味的是，比较于一年前广州的“中山舰事件”，张治中的政治态度发生了明显的变化。他不再直率，也不再鲁莽，一切的一切，似乎都变得成熟与老练起来，也许是一种深沉与冷漠吧！两年前，在黄埔岛上要求加入中国共产党的那个张治中没有了；一年前，在广州慷慨陈词直言极谏的那个张治中也没有了。是一种政治立场的倒退？还是一种斗争策略上的韬光养晦？抑或是对政治斗争的厌恶和消沉？
“四•一二事变”时，张治中当时也在上海，但他却没有参加蒋介石的阴谋活动，蒋介石多次让他参加会议，他都以各种借口回避。
那时的他每天闭门不出，一个人躲在屋里看书，有时也到黄埔江边吹吹风。他不是一个苟且的人，也不是一个骑墙的人。在强大的压力面前，他可以退却，可以沉默，但不会出卖原则。这是一种政治斗争的策略，也可以说是张治中的一种忍耐和等待。