Подскажите, что делать, если мама дважды была замужем, еврей её отец ( мой дед) , и мой брат, сын от первого брака - давно австриец, живет в Австрии?

Не обязательно (хотя и желательно) иметь его СОР. Если он будет записан вами в анкете, объясните на КП. Некоторые люди не записывают в анкету родственников-выкрестов, родственников-негативистов по отношению к Израилю или тех, с кем неважные отношения, нет общения или трудно достать их доки. Во время интервью можете сказать об этом. Да, иногда консул просит СОР брата или сестры. Но, Во-первых, чаще этого требуют, если подаётся еврей, чтобы был лишний документ, указывающий на Галаху (а вы - потомок). Во-вторых, такое могут просить при несколько неубедительном основном наборе документов. Если ни то другое, то не думаю, что станет серьезной проблемой.

Да, мы на КП показывали скан СОРа сестры (она живёт во Франции).

Попросите у брата скан копию СОР, наспечатайте цветную и покажите.