1960年，仍然被视为左派的威尔逊，尝试在党魁选举中挑战党魁晓治·盖茨克(Hugh Gaitskell),虽然在盖茨克的带领下，工党在1959年大选中大热倒灶，后来又受废除“第四款”一事蒙上阴影，但威尔逊仍然落败。其后在1962年，威尔逊参选副党魁，却被乔治·布朗击败。此后，他出任影子内阁外务大臣一职。
正当工党重整旗鼓的时候，晓治·盖茨克却在1963年1月突然死亡。威尔逊于是再度成为党魁选举的左翼候选人，挑战乔治·布朗。后来由于卡拉汉加入选战，分散了党内的右翼选票，以致威尔逊在选举胜出，成了新任工党党魁。不久以后，保守党政府爆发了“普罗富莫事件”(ProfumoAffair),威尔逊谴责“丑闻揭露了我们社会里病态的一面”,从而博得不少支持，由于麦美伦的保守党政府也因丑闻而大受打击，促使麦美伦在1963年10月辞去首相一职，由亚历克·道格拉斯·霍姆爵士接任。由于霍姆是贵族，不能在下议院发言，以致他上任后立即宣布放弃他的伯爵爵位。道格拉斯·霍姆下台后，威尔逊曾在议会取笑他是霍姆伯爵十四世，霍姆立即回应道：“我相信威尔逊先生是威尔逊先生十四世吧!”
