А можно на поезде добраться до Тбилиси и обратно в Баку гражданину рф?

Нет.

Сухопутные границы Азербайджана закрыты. Не ходит наземный транспорт, исключение это грузовые автомобили юрлиц, водный транспорт тоже не ходит. Выехать из АР сухопутно можно на своей машине только, если на ней сюда и приехал, либо же пешком пересекать границу. Обратно только самолетом со всех сторон. И выехать сухопутно могут только иностранные граждане. Граждане Азербайджана не могут даже выехать сухопутно.