1923年3月下旬，北大总务长蒋梦林，原教务长顾梦余等人到天津。他们应该是听到了蔡元培要再次赴欧洲的消息，专程来见蔡元培的。所谈的核心话题，是如何维持校长出走后的学校局面。
不久，蔡元培离开天津赴上海。暂住在科场同年好友，商务印书馆的主持人张元济的寓所。
在上海，蔡元培的活动范围大为扩展，他的思想也开始逐渐摆脱来自北大校务方面的缠绕。他首先联络国民党内的同志，先后与汪精卫，胡汉民等人聚谈。
此时在广州的孙中山委托北大教授石瑛，转至蔡元培一涵，请他来广州，共商军政要务。
蔡元培复涵，以儿辈将赴欧洲留学需要照料和自己拟撰一书须赴欧洲收取资料为由婉言推脱。
他在信中，特别提起现在“军务倥惚，麾下所需要的，自是治军筹款之材，陪于此两者，实无能为役。俟由欧返国，再图效力，当不为迟”。
蔡元培早年投身反清革命。 与光复会和同盟会均有很深的关系，可谓江浙一带知识分子的革命党人的代表人物。在“二次革命”、反袁世凯等重大历史关头，总的说来是一直与中山先生共进退的。只是对孙中山以护法为旗号的另立南方政府之举，他是不太赞成的。前边提到过，1922年间，北方“法统重光”之后，蔡元培曾公开领衔发表通电，要求孙中山结束护法，共谋统一。
此举曾招致南方阵营一片声讨，章太炎曾很不客气的公开斥责蔡元培是“事身伪廷”。
蔡元培在北京大学期间，尽管具有国民党的背景，但面对诸多问题的表现，则更像是一个自由人。这也许就是他深得自由知识分子们拥戴的原因。此时，他婉拒孙中山的邀请，应该是与这自由人的惯性思维有关系。
在国民党内，就人际关系而言，蔡元培与曾经旅欧的吴稚晖、李石曾、汪精卫、张继等人相对来往要密切一些，在志趣上也有不少的共同点。特别是与早期的汪精卫，关系似乎要更近一些。
蔡元培来到上海，安顿下来，首先拜访的是汪精卫夫妇。他们的回复孙中山的信函，也是请汪氏转交。
随后，汪精卫给回绍兴家乡小住的蔡元培，发了一信函。
内言：“兹有恳者，蒋君介石，为十余年之同志，现任大本营参谋处长。盖自六年以来，粤中军事计划大半其手创，为中山先生军事辅佐之数一数二之人才也。去年丧母，曾托铭乞先生为作传略。铭迫于事，忽忽不果。今渠复生此请。铭前曾已为作墓
…。。