Иван Ребров родился в Шпандау в семье немецкого инженера. Его мать, Наталья Нелина, хорошо знала Фёдора Шаляпина. Детство провёл в городе Халле, где пел в городском хоре.
Учился пению в Государственной высшей школе музыки в Гамбурге (1951—59) как лауреат