Из первого мешка возьмем одну монету, из второго - две, из третьего - три, и так далее. Из последнего - 11 монет. Нет, давайте из последнего вообще ничего брать не будем, чтобы легче было произвести расчет (думаю, условие задачи гарантирует, что такое количество монет в мешке найдется). Всего на весы будет положено 1+2+3+...+10=55 монет (надеюсь, учить, как подсчитываются такие суммы, не надо).
Если весить они будут 550 грамм, значит, среди них фальшивых нет. А тогда фальшивые в 11-м мешке.
Если весить они будут 551 грамм, значит, фальшивая монета одна и тогда она взята из первого мешка.
Если весить они будут 552 грамма, фальшивых монет две, и взяты они из второго мешка.
Если весить они будут 550 и k граммов, фальшивых монет k, и взяты они из k-го мешка