Я гражданин России, а у супруги ВНЖ Азербайджана. Можем ли мы вместе пройти по сухопутной границе на выход из Азербайджана?

Если она гражданин РФ, то да. ВНЖ просто позволяет остаться в Азербайджане и не влияет ни на что другое.

Вы можете. А супруга только самолётом или до Грузии поездом.