Я правильно понимаю, что в Грузии сначала нужно идти в банк за открытием ИП счета, а уже потом заявку в налоговую подавать?

Как хотите) Информационная карта не имет к этому отношения) Она должна быть заполнена до подачи первой декларации, а счет, если будете работать без НДС, например, на и ностранного заказчика, можно вообще не привязывать.