Du måste berätta för PDO att du vill att den ska ge undantag:
$connection->setAttribute(PDO::ATTR_ERRMODE, PDO::ERRMODE_EXCEPTION);
Efter din kommentar nedan är det uppenbart att ditt DSN är felaktigt. Det ska vara:
$connection = new PDO('mysql:host=localhost;dbname=my_db','my_username','xxxxxxx');
Observera att syntaxen är dbname=
istället för dbname:
(som du hade ursprungligen).