拿到签证时已经是1939年3月，格特露立即前往达豪把阿德勒从集中营中解救出来。按照纳粹当局驱逐犹太人的政策，阿德勒夫妇只被允许携带少量个人用品，每人10马克现金(相当于4美元)，限期离境。他们先是乘火车到了意大利北部港口城市特里埃斯特，然后登上了开往上海的轮船，阿德勒带的唯一财产就是他的小提琴。他们夫妇抵达上海时一无所有，一登陆阿德勒马上就去找工作。他先是在一家维也纳式的咖啡馆找了一个乐队拉琴的活计，当起了所谓“洋琴鬼”。很快，因为琴艺高超，阿德勒就被上海工部局乐团录用，8月即已升职与富华同任并列首席。

    阿德勒在上海逐步站稳脚跟，事业生活都趋稳定，并且成为上海音乐界的知名人物。然而好景不长，1941年12月7日，日本偷袭珍珠港 ......