На Шри-Ланке банкоматы, где можно снять деньги с НЕ российской карты, найти проблемно?

Можно найти.

В какой части острова? В целом, не проблема, но большинство банков возьмут комиссию за снятие.

И выдадут только рупии, конечно.