Если мы оформляем визу по приглашению родственников из Швеции, но едем в Эстонию, нужна ли транзитная виза?

Не бывает «шведских» шенгенов. Шенген одинаковый, независимо от страны выдачи. Вы можете поехать в любую страну ЕС.

А как же правило первого въезда?

Нет правила первого въезда, есть правило времени пребывания.

Порт въезда: Нарва.

Если у вас будет виза, то «разрешение» появится.