Пусть участник решил правильно x задач. Значит, он не решил 10-x задач. Таким образом, ему засчитали 5x баллов и отняли 3(10-x)=30-3x баллов. Значит, 5x-(30-3x)=34, откуда 5x-30+3x=34, 8x=64, x=8, то есть, участик решил 8 задач. Действительно, в этом случае ему начислили 8*5=40 баллов и сняли 2*3=6 баллов, в итоге он получил 34 балла.
Ответ: 8 задач.