Det kan hända om du inte laddade drivrutinen innan du gjorde den första anslutningen någonsin.
Class.forName("com.mysql.jdbc.Driver");
För att vara säker måste drivrutinen gå in i /WEB-INF/lib , inte i /WEB-INF . Du har förresten några SQL-injektionshål. Titta på PreparedStatement . finally kan också förbättras, som du har det nu, con kommer aldrig att stängas när rs.close() ger ett undantag.