Προθερμαίνουμε το φούρνο στους 170 βαθμούς αέρα.

Τοποθετούμε τη σχάρα του φούρνου περίπου στη μέση του του ύψους του και από κάτω ακουμπάμε ένα ταψί στο μέγεθος του αρνιού.

Αλατίστε καλά το κρέας και ακουμπήστε το επάνω στη σχάρα.

Άδειαστε ένα ποτήρι νερό μέσα στο ταψί και ψήστε το κρέας για 60 λεπτά.

Στη συνέχεια πλένω τις πατάτες baby κάτω από το τρεχούμενο νερό και βάζω αρκετό ελαιόλαδο σε ένα μπολ και τις περνάω μία-μία μέσα από το λάδι.

Στράγγιξε κρατώντας τις για μερικά δευτερόλεπτα επάνω από το μπολ και βάλτε τις μέσα στο ταψί κάτω από το κρέας.

Λαδώστε τα κλωνάρια από το δεντρολίβανο με τον ίδιο τρόπο. (Για να μεταφέρουν τα αρώματα στις πατάτες) και χωρίστε σε μικρότερα ματσάκια.

Απλώστε μέσα στο ταψί με τις πατάτες μαζί με το σκόρδο και ψήστε για ακόμα 45 λεπτά ανεβάζοντας τη θερμοκρασία στους 185 βαθμούς.

Σε ένα μπολ βάλτε όλα τα υλικά για τη σάλτσα και ανακατεύετε καλά με ένα πιρούνι μέχρι να ομογενοποιηθούν τα υλικά.

Δέκα λεπτά πριν βγάλετε το αρνί από το φούρνο και χρησιμοποιώντας ένα πινέλο περάστε όλη την επιφάνειά του με τη σάλτσα μουστάρδας.

Ψήστε για άλλα 10 λεπτά και βγάλτε τα από το φούρνο.