Fel:Kolumnen finns inte

När det kommer till Postgresql och entitetsnamn (tabeller, kolumner, etc.) med VERSALER, måste du "escape" ordet genom att placera det i "". Se dokumentationen om just detta ämne. Så ditt exempel skulle skrivas så här:

String stm = "DELETE FROM hostdetails WHERE \"MAC\" = 'kzhdf'";

Som en sidoanteckning, med tanke på att du använder förberedda satser, bör du inte ställa in värdet direkt i din SQL-sats.

con = DriverManager.getConnection(url, user, password);
String stm = "DELETE FROM hostdetails WHERE \"MAC\" = ?";
pst = con.prepareStatement(stm);
pst.setString(1, "kzhdf");
pst.executeUpdate();