Så jag hittade den körande processen för mysqld av sudo lsof -i tcp:3306 sedan dödade jag den med sudo kill -9 <PID> .
Efter detta försökte jag mysql_secure_installation igen, men fick ett nytt fel :
Efter att ha provat några korrigeringar för att få mysql.sock att fungera startade jag MySQL-servern med sudo mysql.server start gick sedan vidare med mysql_secure_installation för att ställa in lösenordet för root-användaren.
Det här fungerade äntligen för mig.