Подскажите, пожалуйста, подаюсь на визу Японии, а разве посольство может проверить было ли у человека когда-либо гражданство другой страны?

Конечно, нет.

Если в ваших паспортах (внутренний/загран) эту информацию явно или неявно найти нельзя, то больше им ее взять неоткуда.

Есть закон о защите персональных данных и даже если бы консульству взбрело в голову проверить вас, сделать они этого не смогут