Har du sett NHibernate.Spatial-projektet ? Detta kan ge en enkel lösning på ditt problem.
Alternativet är att skapa din egen implementering av ICriterion - det här är inte alltför knepigt om du härleder från AbstractCriterion och du riktar in dig på din specifika databasplattform. Detta gör att du sedan kan kombinera din distansfunktion med andra kriterier.