Τοποθετούμε το γαύρο σε σειρές σε ένα πυρίμαχο σκεύος. Αλατοπιπερώνουμε. Κόβουμε το κρεμμύδι, το σκόρδο, το λεμόνι και τις ντομάτες σε μισοφέγγαρα. Ανάμεσα στο γαύρο και κάπως συμμετρικά, τοποθετούμε τις φέτες έτσι ώστε να είναι ομοιόμορφα ανάμεσα στα ψάρια.

Πασπαλίζουμε με κάππαρη, ρίγανη, λάδι και λίγο ούζο. Σκεπάζουμε πρώτα με λαδόκολλα και έπειτα με αλουμινόχαρτο και ψήνουμε για 15 λεπτά σε προθερμασμένο φούρνο στους 190 βαθμούς. Ξεσκεπάζουμε και ψήνουμε για άλλα 10 λεπτά ή μέχρι να πάρουν λίγο χρώμα.