Först och främst måste du ändra mysql_query( ... ) på rad 9 i ditt andra postade kodblock till mysqli_query( ... ) , för API-konsistens och kompatibilitet.
Du kan också få dubbletter av resultat om du tillåter flera poster i konversationstabellen där användare A och B kan anges som användare1 =A, användare2 =B i en konversation och användare1 =B, användare2 =A i en annan konversation.
Till sist, som Jay Blanchard sagt, du bör använda förberedda satser för att undvika SQL-injektion.