Подскажите, можно ли открыть ИП в Армении и вести по нему деятельность, но проживать в другой стране?

Да, можете. Многие так делают.

Теоретически да. Но есть вероятность, что рано или поздно вам банк счета заблокирует.