Intressant fråga. Tyvärr MYSQL stöder inte recursive queries , så du måste vara lite kreativ här. Något sådant här kan fungera:
select flag,
sum(calc)
from (
select flag,
(num-if(@prevflag=flag,@prevnum,0))*val calc,
@prevnum:=num prevnum,
@prevflag:=flag prevflag
from yourtable
join (select @prevnum := 0, @prevflag := 0) t
order by flag
) t
group by flag