Jag hittade en lösning för det här problemet - inte riktigt en lösning, men jag är inom IT så det är tillräckligt nära.
Jag använde Java 7u51.
Jag gick in på kontrollpanelen -> Java -> Avancerat
Under Avancerade säkerhetsinställningar valde jag:
Use SSL 2.0 ClientHello format
Use SSL 3.0
Use TLS 1.0
(detta råkar vara de typer av anslutningar som servern accepterade)
Jag gick också in på säkerhetsfliken och la till webbplatsen i listan över undantagswebbplatser
Till sist gick jag in på Java-fliken och klickade på Visa. Jag avmarkerade sedan Java 1.7.0_51 från mina installerade JRE.
Jag är inte helt klar över hur/varför allt detta fungerade när avinstallation och inaktivering av andra versioner av java inte gjorde det. Men jag är glad över att webbplatsen fungerar igen.
Hoppas detta hjälper någon annan i framtiden.