Подскажите пожалуйста можно ли сделать на территории Грузии доверенность которая будет иметь юридическую силу на территории РФ?

Да. Простая грузинская с переводом и нотариалкой будет работать.

Заверять в посольстве надо.

Можно. Сами подготовьте доверенность, переводчик при нотариусе переведет на грузинский, нотариус заверит. И хотя апостиль не должны требовать, но в РФ перестраховываются. Поэтому лучше потом поставить в Доме Юстиции апостиль, у того же переводчика перевести апостиль и заверить))