Подскажите, в каком банке можно открыть валютный счёт? В Каспи только тенге сказали.

В Каспи есь валютный счета, но - депозитные, что Вас, как я понимаю не интересует. Не очень понятно почему вы не хотите открыть счёт в теньге, т.к. при тратах за границей тг будут конвертироваться по курсу Каспи, а он не так уж плох. Но - Ваше дело. Другой разговор, что вариант у Вас остался только один - Фридом.