Βράζετε τα παντζάρια σε νερό μέχρι να μαλακώσουν. Τα αφήνετε να κρυώσουν και τα ξεφλουδίζετε. Τα κόβετε με το πιο κοφτερό σας μαχαίρι σε πολύ λεπτές φέτες.

Βάζετε σε ένα πιατάκι τη φέτα να μαριναριστεί με ρίγανη και μία κουταλιά σούπας ελαιόλαδο.

Ετοιμάζετε τη βινεγκρέτ χτυπώντας καλά σε ένα μπολάκι τη μουστάρδα, το ξύδι και το χυμό πορτοκάλι. Προσθέτετε σιγά-σιγά το υπόλοιπο ελαιόλαδο δίχως να σταματήσετε το χτύπημα. Προσθέτετε αλάτι και πιπέρι.

Σε ένα μεγάλο πιάτο απλώνετε τα κομμένα παντζάρια σε ένα σχήμα σαν λουλούδι. Περιχύνετε με τη μισή βινεγκρέτ. Στρώνετε από πάνω τα φύλλα της ρόκας και τη μαριναρισμένη φέτα σπασμένη με τα χέρια σε κομμάτια. Περιχύνετε με την υπόλοιπη βινεγκρέτ και σερβίρετε.