Для решения задачи можно сделать ручной расчет:
k=0;
m=1;
a=m div 4 = 1 div 4 = 0;
b = (12-m) mod 3 = (12-1) mod 3 = 11 mod 3 = 2;
a <> b ⇒ 0 <> 2 ⇒ true; k = k+1 = 0+1 = 1
m=2; a = 2 div 4 = 0; b = (12-2) mod 3 = 1; a <> b ⇒ 0 <> 1 ⇒ true; k=2
m=3; a = 3 div 4 = 0; b = (12-3) mod 3 = 0; a <> b ⇒ 0 <> 0 ⇒ false
m=4; a = 4 div 4 = 1; b = (12-4) mod 3 = 2; a <> b ⇒ 1 <> 2 ⇒ true; k=3
m=5; a = 5 div 4 = 1; b = (12-5) mod 3 = 1; a <> b ⇒ 1 <> 1 ⇒ false
m=6; a = 6 div 4 = 1; b = (12-6) mod 3 = 0; a <> b ⇒ 1 <> 0 ⇒ true; k=4
m=7; a = 7 div 4 = 1; b = (12-7) mod 3 = 2; a <> b ⇒ 1 <> 2 ⇒ true; k=5
m=8; a = 8 div 4 = 2; b = (12-8) mod 3 = 1; a <> b ⇒ 2 <> 1 ⇒ true; k=6
m=9; a = 9 div 4 = 2; b = (12-9) mod 3 = 0; a <> b ⇒ 2 <> 0 ⇒ true; k=7
m=10; a = 10 div 4 = 2; b = (12-10) mod 3 = 2; a <> b ⇒ 2 <> 2 ⇒ false
Ответ: k=7