Подскажите, при подаче в посольство Японии документов на визу надо иметь с собой российский паспорт на руках ?

Да, там вроде паспорта записывают

В Питере никто его не спрашивал. Но его ксерокопия должна быть в клмплекте документов

На входе в консульство сотрудник фсб записывает вас в блокнотик по этому паспорту: кто и когда заходит