Скажите, пожалуйста, на ВНЖ Латвии по родственникам записываться в посольство в Москве или можно в самой Латвии подаваться ( есть виза ) паспорт забирают на оформление? Нужно будет ждать?

Паспорт никогда не забирают. Просто делают копии Можно подать документы в Латвии , а потом ждать Решение кде угодно. Вам должны его прислать на эл.почту

Можно где угодно, но учтите, что решение о внж даётся в течение года (чаще всего сейчас -- за 4 мес., но тем не менее риски есть, что год будут рассматривать). И не всем дают право ожидать решения в Латвии.