1904年底，蔡元培联络江浙一带的同志，一起成立了近代中国近代史上赫赫有名的反清革命组织光复会，蔡元培被推举为会长。
光复会又名复古会。1903年（光绪二十九年）冬，由王嘉伟、蒋尊簋、陶成章、魏兰、龚宝铨等人在东京酝酿。次年初又经陶成章、魏兰回上海与蔡元培商议，至同年11月，以龚宝铨组织的军国民教育会暗杀团为基础，在上海正式成立。
该会的主张除文字宣传外，更以暗杀和暴动为主要革命手段。光复会积极联络会党、策动新军，主要活动范围在上海、浙江、江苏、安徽等地。
光复会是辛亥革命时期中国的三大革命组织之一(其他两个是同盟会、华兴会)。总部设在上海新闸路仁和里，后迁三马路保安里。
光复会的入会誓词是：“光复汉族，还我河山，以身许国，功成身退！”
蔡元培的学生俞子夷回忆说：“将近寒假前，蔡师与我谈起组织问题，他提示几点纲要，嘱我起草一种章程，会名定‘光复’，以示光复我们汉族祖国之意……章程以外，有一套通信用的暗语，多以商业中词汇语句作代，例如：‘销路畅’代‘工作顺利’，‘生意不好’代‘情势不利’之类。成员亦各有一类似店号的代用姓名，例如我的代号是‘怡康’。
“更有一套相见时探询用的暗语，例如：你认识黄先生吗？(是否成员)何时认识？(参加年月)何地认识？(入会地点)问答时，必须做些手势，例如问答那一题时，右手伸中指，无名指，小指并置右膝上，问答另一题则须头向左看看。据说此种方式均是模仿会党的做法。从此等情况看，那时发起组织的光复会，是个秘密的暗杀团体。”
可见光复会在蔡元培等人的领导之下，不但有明确的纲领，而且出于革命斗争的需要建立了颇为严密的组织纪律。