Технические проблемы взаимоотношений проявились довольно скоро. Вильгельм наивно верил, что, избавившись от старшего Бисмарка, сохранит отношения с младшим и Герберт Бисмарк останется министром иностранных дел. Это был единственный человек, с которым его отец говорил свободно, и это было уникальное условие для ведения германской внешней политики. Но Герберт был истинным сыном своего отца и не собирался променять его даже на короля. На просьбу назвать кого-нибудь другого Бисмарки предложили графа фон Альвенлебена. За ним послали, однако он категорически отказался. Кто-то (Ольденбург, Вальдерзее и Гольштейн приписывали эту заслугу себе) предложил барона Маршала фон Биберштейна, высокого забавного юриста, представлявшего своего великого герцога в Берлине. Каприви предпочел бы пруссака, и уж тем более человека, имеющего опыт в иностранных делах, но позволил себя переубедить и от имени кайзера предложил должность Маршалу. Но когда на следующее утро он вернулся, чтобы доложить о согласии Маршала, выяснилось, что, пока суть да дело, адъютант кайзера и Герберт Бисмарк убедили императора в опасности неопытности и под их давлением Вильгельм снова призвал фон Альвенслебена. Потенциально неловкая ситуация разрешилась только категорическим отказом фон Альвенслебена. Таким образом, ведение внешней политики Германии оказалось в руках двух людей, которые ничего о ней не знали, под руководством монарха, интересовавшегося ею только урывками.
Однако к тому времени, как Маршал приступил к выполнению обязанностей, в отношении Договора перестраховки жребий был уже брошен. Примерно в то время, когда Бисмарк писал письмо об отставке, русский посол Шувалов вернулся в Берлин, имея полномочия от царя на возобновление договора. Бисмарк, услышав об этом, сказал Шувалову, что его «убирают» с должности за пророссийскую позицию, а Герберт доложил кайзеру, якобы Шувалов считает, что смена канцлеров непременно повлечет за собой изменение отношения царя. Но кайзер сам принял Шувалова, и сразу стало ясно, что позиции обеих сторон представлены искаженно. Шувалов объяснил, что всего лишь запросил свежие инструкции. А кайзер объяснил, что Бисмарк уходит по причине ухудшения здоровья, и только и что ничего способного изменить отношения Германии к России не произошло. Шувалов доложил об этом своему руководству.
К несчастью, никому не пришло в голову поставить об этом в известность Каприви. И когда тот, приступив к работе в новой должности, обнаружил, что возобновление Договора перестраховки — вопрос номер один, чиновники министерства иностранных дел и германский посол в Санкт-Петербурге посоветовали ему махнуть рукой. Никто из них толком не понимал целей Бисмарка, которые он им никогда не объяснял. Часть тайны его силы заключалась в монопольных знаниях всех фактов. Он изложил свои взгляды на внешнюю политику в 1888 году в двух объемных пояснительных записках кайзеру, однако Вильгельм даже не подумал показать их Каприви. Армия с большой подозрительностью относилась к России, и Каприви, как честный прямой человек, чувствовал, что тонкости политики Бисмарка выше его понимания. Министерство иностранных дел подчеркивало несовместность Договора с другими обязательствами Германии и ущерб, который будет нанесен отношениям Германии с другими государствами, если русские опубликуют текст. При этом не учитывался тот факт, что именно русские пошли на попятную, когда Бисмарк предложил публикацию. Тем не менее аргументы министерства иностранных дел представлялись убедительными всем, кто не знал истории вопроса, хотя на их сторонников не могла не влиять мысль, что бисмаркская политика будет продолжаться, Бисмарки могут вскоре вернуться, чтобы ее проводить. Каприви объяснил свои выводы кайзеру в то же время, когда доложил о готовности Маршала стать министром иностранных дел. Вильгельм, выслушав его, заметил: «Что ж, этого не может быть, нравится мне это или нет». Вместе с тем он настоял на необходимости дополнительных шагов для заверения русских, что никаких изменений в политике Германии по отношению к России не будет.
