抵达波恩不久，科尔将昔日在美因茨那些忠诚可信的人马召集过来，组成新的班底。这些人是：尤利亚妮·韦伯、沃尔夫冈·贝格斯多夫、霍斯特·特尔奇克和爱德华·阿克曼等人。此外，他又从美因茨将州部长海纳·盖斯勒召到身边，取代了库特·比登科普夫的基民盟秘书长职位。
为了能够争取工会的好感，为联盟党赢得新的选民层，科尔在1977年6月初把42岁、能干好斗的诺贝特·布吕姆提到党的社会委员会主席的位置上，取代了汉斯·卡策尔的职务。
诺贝特·布吕姆博士是一位引人注目的社会活动家。他曾在吕瑟尔斯海姆的奥佩尔公司当过学徒，后来又辗转到建筑业、金属手工业及卡车司机等岗位上工作过。长期的基层工作，不但使布吕姆了解基层组织并在这里赢得了颇高的声誉。科尔认为，布吕姆出任此职是再恰当不过了。
科尔需要一批休戚与共、志同道合的人马，只有这些人团结在自己的周围，他才有可能在工作的时候得心应手、游刃有余。他希望有一个良好的“人事政策”为己所用。他说：“如果自由的思想传统有能像社会和保守的思想传统那样在基民盟内找到自己的政治故乡的话，这个党就不可能是人民的党。”
在波恩，科尔依旧沿袭了他在美因茨任命新官员的风格，擅自将一些党内、甚至连公众素未谋面的州部长和州务秘书召到自己的身边，委以重任。科尔在掌管美因茨时如此，在充当反对派领袖时如此，在进入联邦总理府后还是如此。
但是目前鉴于地位的变化，科尔不得不在一夜之间改变昔日在莱法州时那种粗放得毫无约束的工作作风。在这里，他必须小心谨慎、像地震仪那样对任何风吹草动都有所反应。现实不允许他犯任何错误，否则那些政治对手和吹毛求疵的人又将绘声绘色地贬责一番。
科尔在波恩很快适应了新环境，人们同时也很快地适应了他。在他作为反对党领袖进入联邦议院4周后，据英弗拉民意测验的调查结果表明，科尔的日子远远比他的对手勃兰特和施特劳斯好过得多。在一份从-5到+5的表格上，施特劳斯得0.4，勃兰特为0.1，而科尔却达到了1.2。
就在这个时候，连任的施密特总理却为目前的尴尬局面伤透脑筋。在联邦议院选举后的两个星期，劳动部长、卫生部长、国防部长、邮电交通部长、发展部长纷纷向总理递交了辞职报告，各奔前程，原因是施密特不能实现其在新的任职期间内不更换内阁成员的承诺。
与此同时，养老金的问题使得施密特心烦意乱、不知所措。竞选中，政府宣布从1977年7月1日开始，把养老金提高10%。但是，选举之后，从新的统计数据中发现经济增长率比原先预期的要小，政府根本无法实现这一承诺。如果养老金像宣布的那样从7月份开始增加，1977年仅养老保险金一项就将造成100亿马克的赤字。
起初，政府决定将增加养老金的时间向后推迟半年，但尚未实施，各地的批评便蜂拥而至，他们不得不取消了这个决定。联盟党就此抓住不放，抨击施密特是一个“养老金撒谎者”，用莫须有的事实欺骗了善良的选民。1979年9月，科尔对《星期日世界报》说，“我们的年迈公民要求诚实。”对他们来说，“养老金是长期劳动生活的结果”。
这时，施密特还遭到了来自工会和社民党议会党团的指责。社民党议会党团公开表示：他们将拒绝接受养老金延期的决定。
养老金的问题使得曾经被誉为“经济与货币政策的魔术师”的施密特忧心如焚、食不知味。他后来回忆起此事的时候，还心有余悸地说道：
“在我担负政治责任的漫长岁月里，曾遇到过各种各样的难题，但没有一次像1976年底发现养老金的财政估算与实际情况不符的那些日子里更使我痛苦。”
接踵而来的是维利·勃兰特的声望急转直下。赫伯特·魏纳对其肆意攻击，使得勃兰特叫苦不迭，狼狈不堪。
不仅如此，社民党和自民党的联合政府出现了分裂之兆。约有一万名党员打算同母党决裂，成立一个右翼的分裂党，旨在反对社会主义和反对阶级斗争。为此，这些右翼分子于1976年3月在汉诺威附近的加伦贝尔格宫举行会议商讨大计。在30年前，也正是在这个地方，政治家库特·舒马赫重新组建了社会民主党。
1977年6月中旬在不伦瑞克，另一部分社民党人士揭竿而起，成立了一个“社会民主联盟”，力图为社民党开辟“另一条自由出路”。
执政党内部分崩离析，危机四伏。反对党中一些权威人士也节外生枝，决定不再履行支持科尔的义务，而把目光转移到刚刚走马上任的联邦议院议长卡尔·卡斯滕斯身上。科尔料想不到这幕剧的导演者居然是他在1966年支持出任联邦总理的库特·格奥尔格·基辛格。基辛格向公众们暗示，科尔不再是联盟党总理的“合适人选”，卡斯滕斯将取代科尔。
联盟党另一位领袖弗朗茨·约瑟夫·施特劳斯对下一届联邦总理也大有问鼎之意。虽然根据1977年埃姆尼德研究所民意测验的结果，施特劳斯大失人心，但是他争夺总理宝座的雄心并未因此而削减。在1976年10月联邦议院大选之后，施特劳斯为了能在更大的范围内独立采取政治行动，曾经不惜牺牲同基民盟长达27年之久的合作而去换取那个遥远的梦想。但是，不幸的是施特劳斯的抱负始终没有实现，在1987年猝死的那一刻仍是如此。
施特劳斯来自德国南部，生得肩宽膀厚，虎背熊腰，先后出任过国防部长和财政部长。1962年他因被指责在《明镜》周刊上发表了一篇透露北约机密的文章而被迫离开国防部长的职位。之后，他引退慕尼黑，进修于因斯布鲁克大学攻读国民经济学，1966年重返波恩内阁。
一位评论家形容施特劳斯的性格是“一座经常跳闸的巴伐利亚电站”。
施密特评价施特劳斯“有过人的记忆力，敏捷的理解力，渊博的知识，并且充满活力。但最重要的是，尽管他具有这些优点，可这个人完全是受感情冲动支配的……我想，国防部长施特劳斯是一个危险的人物，正因为他才华出众，才是一个危险的部长！”
为了削弱科尔的势力，从1976年10月大选之后，施特劳斯公然同他的盟友科尔展开了唇枪舌战，希望能够借此损害科尔在选民中的形象。科尔在政治纲领中曾强调国家应该资助那些有孩子的妇女、丧失劳动能力者、失业者以及那些无组织的公民。施特劳斯则贬之为“左侧中风症”。
为了能够保证在下届联邦议院选举万无一失，科尔开始把目光投向联盟党之外的自民党身上。自民党和社民党时有龃龉，如果科尔能够争取到自民党的支持，那么执政党的阵营便不攻自破，而联盟党则能摆脱在野党的命运。因此，从1969年开始，科尔就做过这方面的努力，