Rosenstock va deixar Berlín el 1936 i es traslladà aal [[Japó]] per conduir l'Orquestra de Simfonia del Japó (que havia estat fundada el 1926 i que esdevenia l'Orquestra de Simfonia del NHK el 1951).<ref>Jonathan Goldstein The Jews of China: Volume 2 - Page 80 1999 "At the time, the conductor of the premier symphony orchestra in Japan, the Japan Symphony Orchestra (renamed the NHK Symphony) — was Joseph Rosenstock, a Jewish refugee from Nazi Germany. </ref> Es va quedar a Tòquio fins al 1946 i mentre va ser allà va ensenyar a Hideo Saito (director, educador i co-fundador del Toho Gakuen Escola de Música) i Masashi Ueda (director de l'orquestra de la Tokyo Symphony Orchestra, qui va introduir la música contemporània russa, americana i japonesa al públic), i [[Roh Ogura]], qui va dirigir les simfonies de Beethoven.
