Мильштейн обучался игре на скрипке в школе Петра Столярского до 1914 года, затем учился в Петроградской консерватории у Леопольда Ауэра. В 1920 году Мильштейн впервые выступил с концертом в Одессе, и в том же году исполнил Скрипичный концерт Глазунова под
