Если я не гражданин Латвии, то могу ли я иметь гражданство РФ и паспорт Латвии? Или это какой то бред с моей стороны?.

Не можете. Паспорт негражданина-это лицо без какого-нибудь гражданства, как только получите гражданство России, всё, вы статус негражданина потеряли.