执政时，因同乡关系，继续受重用，历任总统府秘书长、国务院秘书长、农商总长、司法总长、水利局总裁。他周旋于北洋军阀各派系之间，调节矛盾，为各方所待重。他不签字，贵为总理的段祺瑞竟也没有办法。
11月1日，日本驻华公使林权助亲自到农商部威胁张签字。张国淦问林权助是代表日本商人，还是代表日本政|府？他说：“如果是代表贵国商人，则当按照我们中国的矿业条例办理。如果是代表贵国政|府，这里是农商部，我和阁下没有谈话的地位，请阁下到我国外交部接洽。”
林权助被张说得哑口无言，又不好意思翻脸，只好退出。隔不久又来访张国淦，换了一副和善的面孔，建议依照日本钢铁业由军部管理的成例，将此案移陆军部办理。张国淦答复说：“这是我国内政，不劳阁下操心。”
段祺瑞看这事闹僵了，乃派孙润字以120万元向张行贿，贿款增至200万元，均被拒绝。国务院秘书涂凤书也奉派前来，劝张以考察各省农会为名离开北京，由代理部务的次长代签铁矿合同，张国淦也拒绝。段又采取以前对付内务总长孙洪伊的办法，劝张外调省长，以免身当其冲，张也不肯。
张国淦平日为人随和，可是这次却非常坚决。段祺瑞最后派亲信曾毓隽访张，说了许多好话，请张帮忙，张国淦说：“不签字就是帮总理的忙！”
因为敌强我弱，在国人总体惧日的民国初，能有张国淦这样的强项令、不丧权辱国、不屈从权威，难能可贵。
要不是因为事出有因，段祺瑞也不想去招惹这位有名的“强项令”，实在是因为欧洲战局的渐渐露出曙光，他要急着去分一杯羹。
一战的三大陆上战役（马恩河会战、凡尔登战役、索姆河战役）和一场海上战役（日德兰海战）结束后，无论东欧的俄国发生了那场史称“二月革命”的结果如何，都不能摆脱同盟国失败的推论。甚至在马恩河战役后，德军参谋长小毛奇就向德皇威廉二世说：“陛下，我们输掉了战争。”
对急切想加入胜利者一方，特别是迎合了日本人对他的期望，段祺瑞政|府竟绕过张国淦强行签署了合约。这是严重违背内阁制宪精神的：所有重要和约，都例需各内阁部长署名方可生效。张国淦见状，愤然离职。段祺瑞有心批准，却不敢动笔。
张汉卿第二次入京，第一站便到张府，对他的这种言行给予了极高的评价，通过他之口表达了乃父赞之为“国之脊梁”，并强烈邀请张国淦到关外去，“远离中枢，做些实事”。
…。。