被父亲阿莱克修斯一世加冕为共治皇帝来巩固继承权。虽然阿莱克修斯一世希望由约翰继承皇位，但皇后伊琳娜则更希望由他们的长女安娜·科穆宁娜和其丈夫小尼基弗鲁斯·布里恩尼奥斯(nikephoros bryennios the younger)来继位。阿莱克修斯为了避免伊琳娜的责备而掩饰了自己的选择，因为皇后认为小尼基弗鲁斯应该继位。1118年8月15日当阿莱克修斯在mangana修道院里奄奄一息之时，约翰带着他信任的亲属与他的弟弟副皇帝(sebastokrator)伊萨克·科穆宁偷偷前往修道院，并从他垂死的父亲那里获得了皇帝图章之戒。随后他一边举着手接受支持他的市民们的拥戴一边骑着马前往大皇宫。而伊琳娜听说这件事后感到非常吃惊，她既不能说服他的儿子放弃，也无法劝说小尼基弗鲁斯反叛。尽管宫廷卫队最初在没有约翰父亲的旨意的证据下拒绝承认约翰，但新皇帝却在暴民们的拥戴下闯入了皇宫。
阿莱克修斯一世随后就在当晚驾崩。尽管他的母亲极力劝说，但是因为约翰对权力的控制非常虚弱，所以他始终拒绝参加父皇的葬礼。在几天内他的地位就逐渐稳固了。然而，约翰登基还未满一年，约翰二世发现了一个旨在让他下台的阴谋，证据直指他的母亲和姐姐。由于安娜的丈夫小尼基弗鲁斯对他妻子的阴谋毫无兴趣，所以安娜企图扶植他丈夫登基的阴谋也随之破灭。安娜的所有财产都被查抄，皇帝希望将她的财产都送给他的好友约翰·阿克苏赫。但阿克苏赫明智地拒绝了，最终在阿克苏赫的影响下约翰和姐姐达成某种程度的和解并且她的财产也被返还。太后伊琳娜被遣送到了修道院，安娜似乎也退出了政治生活，她深居简出地成为了一位历史学家。然而她的丈夫小尼基弗鲁斯却被皇帝委以重任。为了维护他自己的权力延续，约翰于1122年将他年轻的儿子阿莱克修斯加冕为共治皇帝。
内政
家族内兴起的反对约翰登基的阴谋活动，影响了约翰的统治方式-他任用王族外的人担任官职以帮助治理帝国，这一点与其父将王室成员与大部分军政要职相联系的方式显著不同。
约翰·阿克苏赫是约翰二世惟一的挚友，也是皇帝最亲近的顾问。他本是一个突厥人，尼西亚城破后还是孩子的他便被俘并被作为礼物献给了约翰的父亲阿莱克修斯一世。阿莱克修斯皇帝认为阿图什将是他儿子的一位好伙伴，所以阿图什得以与皇子一同在帝国宫廷中成长。约翰二世即位后阿克苏赫立即就被任命为大统领meg
…。。