Подскажите, пожалуйста, при поступлении посылки в Латвию из интернет магазина (не ЕС) кроме 21% НДС нужно ли пошлину оплачивать?

Зависит от страны происхождения товара и от товарной номенклатуры.

В среднем от 5 до 15% еще пошлина будет

Можете поискать магазин который сам берет все налоги и информирует ЕС об этом. Амазон например так делает. Вам просто привезут посылку без дополнительных платежей.