Получил новый шенген Испании, если купить билет Стамбул-Мадрид с пересадкой в Вене, нужно ли будет проходить таможню? будет ли считаться, что визу я открыл не в Испании , а в Австрии?

Печать о въезде в Шенген у Вас в этом случае будет австрийская. При следующей подаче на визу приложите посадочные и брони гостиницы в Испании чтобы показать, что использовали визу правильно.