Det finns inget alternativ för detta i MariaDB och MySQL. Jag stötte på samma problem som du för några månader sedan, jag sökte mycket och jag löste det till slut delvis genom att skapa ett speciellt lagringsområde på NAS:en för dessa porära datamängder.
Skapa en mapp på din NAS eller en partition på en intern hårddisk, den kommer per definition att vara begränsad i storlek, montera den sedan och tilldela den tillfälliga lagringen till denna enhet i mysql ini:(välj antingen windows/linux)
tmpdir="mnt/DBtmp/"
tmpdir="T:\"
mysql-tjänsten bör startas om efter denna ändring.
Med detta tillvägagångssätt, när enheten är full, har du fortfarande "konstiga problem" med frågor på disken, men de andra problemen är borta.