Du måste omvandla dessa lats och lons till ett mer lämpligt koordinatsystem.
Eftersom jorden är en sfär, pratar du om att beräkna en area i sfäriska koordinater.
Dokumenten säger att MySQL "AREA" funktion tar en polygon som indata. Jag skulle säga att om du vill ha area som något som kvadrat miles bör du konvertera dina lat/lon-koordinater till ekvivalenta ytkoordinater (x, y) med rätt enheter (t.ex. miles). Skicka sedan in dem till AREA-funktionen.
Den här länken tyder på att någon annan har haft det här problemet och löst det.