在1954年2月19日举行的开幕典礼上，胡适担任临时主.席并致开幕词。又被选为大会主.席团主.席之一。
“今天的第一届国大的第二次会议的召开，是继续维持宪法的法统，依据宪法第25条，第27条，第28条，第29条的规定，举行第二任总统副总统的选举……”
作为大会临时主.席，胡适可谓是众望所归，他致开幕词这开场的几句话，便获得了全场长时间热烈的掌声。
对中国国民党推定蒋介石、陈诚为正副总统候选人，胡适表示他“十二万分的赞成”，“理由是国家处境艰难，除蒋总统以外，没有人比蒋总统领导政府更为适当，更能有效完成反攻复国建国的历史使命”。而陈诚（时任行政院长）“是蒋总统最适当最理想的助手”。
超出很多人的想象，会议开得很顺利，也很成功。如愿选出蒋介石和陈诚为第二任“总统”、“副总统”。胡适代表国民大会把“总统当选证书”颁发给蒋介石。
3月22日，胡适对记者发表谈话说：“蒋总统的当选连任，表示百分之一百的赞成，今后六年，是国家民族最艰难困苦的阶段，只有蒋先生才能克服一切困难，蒋先生肯负此项重大的责任，表示万分的钦佩和感谢。”
胡适这次回台北参加“国民大会”，可算为台湾当局出了大力。返美以后，蒋介石于7月16日聘请胡适担任了“光复大陆设计委员会”副主任委员。这是个很显赫的职位，而主任委员是由“副总统”陈诚兼任。
1957年9月，胡适又奉蒋介石政府的委派，出席联合国大会。会议期间，胡适发表了题为《匈牙利叛乱在中国大陆的反响》的演说，攻击中共政权，要求联合国大会拒绝恢复中华人民共和国的席位。
这一时期，在国共两党的争斗中，胡适已经是旗帜鲜明的站在了国民党的一边。这一时期，也可以说是胡适与蒋介石关系的蜜月期。
此时的胡适，也越来越想离开美国回台湾，他的想法是：在台北南港借一块地，他自己出钱盖一所小房子。利用“中央研究院”历史语言研究所的丰富图书，在有生之年完成《中国思想史》、《中国白话文学史》。
此事传到蒋介石耳中，他早就想让胡适回到台湾，蒋对外表示，非常欢迎胡适回台湾定居，他愿意用他的《苏俄在中国》一书的版税所得，给胡适在南港盖一所房子，用不着胡适自己出钱。
1957年11月4日蒋介石以“总统”身分发布明令：“代理中央研究院院
…。。