Как записать «масло мяты» с несогласованным определением?

Ответ: d. Oleum Menthae

«Масло» — Oleum, i n (Nominativus), а несогласованное определение «мяты» ставится в Genitivus: Mentha, ae f → Menthae. Согласования в роде/числе/падеже нет — отсюда и «несогласованное».