Jag misstänker att Hibernate försöker använda metoden "stort objekt" med PostgreSQL, vilket innebär att lagra ett OID "handtag" till filen i tabellen. Några exempel på läsning:http://virgo47.wordpress.com/2008/06/13/jpa-postgresql-and-bytea-vs-oid-type/
Om du vill hålla fast vid att bara använda en bytea-kolumn (och detta är betydligt enklare att arbeta med på SQL-sidan), använd BinaryType för att mappa kolumnen. Se:korrekt vilokommentar för byte[]