Если мне въехать через открытую границу Шенгена в Польшу через Германию, в Щецин, и мне допустим нужно будет в Варшаву, смогу ли купить билеты на поезд/автобус до Варшавы по рос паспорту или нет?

Паспорт про покупке не нужен. Если оформляете какую-то скидку (например, по КП, контролер 100% спросит). паспорт контролеру не интересен: его волнует только билет. Показали штрихкод или скан билета на экране - и норм.