надо ли регистрировать телефон для симки в Казахстане? Если она нужна для оформления карты. Будет ли она работать через месяц, например, в другой стране? Возможно ли будет нерезиденту совершать операции в онлайн приложении банка, например Каспи?

Симка работать будете, если будете потом за неё платить. При неиспользовании (звонки\смс) за какой-то срок, её блокируют (там все операторы делают). Вроде около 6 месяцев, если не использовать. Вы можете себе подключить тариф обычный в КЗ, а потом поменять на предоплатный и 1 раз в несколько месяцев смс отправлять кому-нибудь. Карта будет жить.