какие есть варианты сухопутного перемещения из Орска в Казахстан? Предпочтительно бюджетные. И сдают ли, например, в Орске машины в прокат с возможностью поехать в Казахстан?

Не думаю что в орске вам дадут в прокат авто с возможностью пересечения границы РФ... хотя утверждать не буду. А в целом до Оренбурга, дальше хоть поездом, хоть микроавтобусом, хоть автобусом - куча рейсов.