Подскажите, пожалуйста, а если ехать с рублями, а не долларами, будут сложности в Азербайджане?

Нет

Кроме того, что банки их не меняют - никаких

Вы когда на манаты будете менять, это как бы через доллар делается, в любом случае, но рубли тут не берут. Купите доллары в юнистрим, там лучший курс и валюта всегда есть, плюс они у каждого метро.