Пусть у Васи х монет по 5 рублей, у монет по 1 рублю, (12-х-у) монет по 2 рубля.
Тогда у Пети х монет по 2 рубля, у монет по 5 рублей и (12-х-у) монет по 1 рублю.
Общая сумма денег Васи:
у+2·(12-х-у)+5х
Общая сумма денег Пети:
(12-х-у)+2х+5у
По условию у Васи в два раза больше. Составляем уравнение
у+2·(12-х-у)+5х=2·((12-х-у)+2х+5у)
у+24-2х-2у+5х=24-2х-2у+4х+10у
х=9у
т.е монет достоинством 5 рублей у Васи в 9 раз меньше, чем монет по 1 рублю.
Вывод.
У Васи 9 монет по 5 рублей, 1 монета по 1 рублю, (12-1-9)=2 монеты по 2 рубля.
Тогда у Пети 1 монета по 5 рублей, 9 монет по 2 рубля и 2 монеты по 1 рублю.
У Вас 45+1+4=50 рублей
У Пети 5+18+2=25 рублей.