Нужно ли в Грузии подавать инвойсы в налоговую/банк? Например в случае проверки/фин мониторинга? Или при закрытии ИП?

Только в случае проверки, по запросу. Но это могут быть любые документы, на Ваш взгляд, подтверждающие легальность и офциальность Вашей деятельности и соответствие ее заявленной. Инвойсы и договора проще всего и надежнее всего это подтверждают просто.