Планирую открыть ИП и банк счёт в Грузии, буду проживать в России, просто много клиентов за рубежом. Почему все стараются скрыть от налоговой РФ факт открытия ИП и счета, чисто из-за налога 13% или есть ещё более веские причины?

Потому, что проживая в России, вы останетесь налоговым резидентом России, и всё ваши поступления на грузинский счёт нарушают валютное законодательство, за что полагаются штрафы до 40%(раньше было до 100%). Если вы сообщите о счёте, то налоговая потребует отчёт о движении, и по нему выпишут штраф.