При пересечении границы на обратном пути пограничник в Черногории отказался ставить штамп о въезде в тот паспорт, где нет шенгена.

Да, это разные проверки и Вы можете спокойно менять паспорта

на вылете в посадочные обычно не смотрят, поэтому да. ну и имена наверное в паспортах одинаковые? )

Можете, ничего не надо придумывать и пытаться в другой паспорт поставить штамп. Просто при выезде показываете паспорт на который билет, на погранконтроле тот где штамп, если что попросят покажете второй

Ответ- да, можете. Потому что регистрация на рейс в авиакомпании, и прохождение гос. Границы - не связанные между собой процедуры.