Först, mysql_* funktioner är utfasade. mysql_affected_rows()
verkar returnera ett heltal i alla fall. Den returnerar -1 om frågan misslyckades.
Vad du verkligen behöver istället för mysql_affected_rows() är en korrekt fråga som inte är öppen för tävlingsförhållanden.
INSERT INTO table (id, count) VALUES (123, 0) ON DUPLICATE KEY UPDATE count = count + 1