Скажите, карточкой Каспи можно с приложения с карты на карту переводить тенге?

Да.

Это вроде валютная операция. Тут осторожней. Если между гражданами РФ операции по картам других стран - штраф.