Det enklaste sättet att göra det, om du inte är bunden till ett visst ramverk, är med en egenskapsfil. Ta en titt på den senare delen av det accepterade svaret för denna fråga (inte XML-biten för ditt fall).
Beroende på om du använder en servletbehållare eller liknande (t.ex. Tomcat, Glassfish, etc.), kan du också överväga att använda den behållarens anslutningsinställningar och anslutningspoolning, vilket kan vara enklare än att återvinna dina egna anslutningar.
Men om du bara försöker känna dig in i Java och det här är för dig att lära dig om JDBC, håll det enkelt till att börja med och läs bara dina egenskaper från en db.properties-fil på din klassväg.