Hittade lösningen.... Fast inte något jag såg dokumenterat någonstans.....
Du kan infoga binära data direkt genom att skriva byte som konverterats till HEX och föregås av 0x
Till exempel:
INSERT INTO my_table VALUES (1,0x19c0300dc90e7cedf64703ed8ae8683b,2);