Problema

Numero mattonelle:

N = (Area pavimento) / (area mattonella);

Le due aree devono essere date nella stessa unità di misura, in m^2, oppure in cm^2.

Area Pavimento:

A1 = b * h = 5,4 * 5 = 27 m^2  = 270 000 cm^2;

Area mattonella esagonale:

A2 = Perimetro * apotema / 2;

A2 = (20 * 6) * 17,32 / 2 = 120 * 17,32 / 2 = 1039,2 cm^2;

N = 270 000 / 1039,2 = 259,8  = 260 mattonelle.

Ciao  @siuuum-0

Si tratta di capire quante volte

f6 L^2 = 2.598 * 20^2 cm^2 = 1039.20 cm^2

entrano in (5.4*5) m^2 = 27 m^2 = 270000 cm^2

risulta quindi

N ~ 270000/1039.2 = 259.81   => 260

area di una piastrella a = 2*6*1,732/2 = 10,392 dm^2

area da pavimentare A = 54*50 = 2.700 dm^2

numero piastrelle n = A/a = 2.700/10,392 = 260 piastrelle 

ATTENZIONE: questa è una risposta-passatempo, da non prendere troppo sul serio (anche perché non ho la pazienza per fare io il conto da vita reale).
------------------------------
ESAGONO
L'esagono regolare di lato L, composto da sei triangoli equilateri di lato L, ha circumraggio L, apotema a = (√3/2)*L e area A = (3*√3/2)*L^2; quindi il diametro è d = 2*L, e la distanza fra lati opposti è h = (√3)*L.
---------------
PIASTRELLATURA
Per pavimentare un rettangolo con mattonelle esagonali si sovrappone la sagoma del rettangolo sulla tassellatura ad esagoni (entrambi nella stessa scala) in modo che un lato del rettangolo giaccia su una linea di lati di esagoni e l'altro su una linea di vertici; in tal modo si mimimizzano le aree di sfrido che consumano mattonelle in numero differente. Su una linea di vertici o di lati si può usare una mattonella per coprire due sfridi, ma agli angoli e sui lati opposti il consumo dipende dalle dimensioni del singolo caso.
Infine, per rispondere onestamente al quesito "Quante mattonelle ... occorrono per ricoprire ...", si deve aver presente che la fornitura non avviene "al pezzo", ma "alla scatola" (scatole da 3, 6 o 12 pezzi) e che, con densità da 2.5 a 5 kg/m^2, una mattonella di lato L = 20 cm pesa al massimo mezzo chilo quindi quelle dell'esercizio saranno in scatole da sei pezzi.
Un maestro mattonatore (quello specializzato che risponde al capo cantiere della posa in opera da parte dei piastrellisti) la stima di quante scatole acquistare la fa in pochi minuti con due regoli su una delle carte di tassellatura e quattro conti su un pezzo di carta per gli sfridi di cui vede sulla carta quanto occupano.

A noi prescrisse il fato pallosissime considerazioni aritmetiche. Ma forse una scappatoia te la trovo: qualcosa che somigli a una carta di tassellatura

tu la osservi e cerchi di fare come il maestro mattonatore.