С раннего возраста Алимпий любил рассматривать иконы и картины, которые продавались на местных базарах, а впоследствии и сам стал угольками пробовать рисовать портреты на доске. Увлечение юноши заметил старый сосед-художник и посоветовал отцу отдать сына для обучения живописи. Первые уроки рисования Яков получил у дьяка Покровской церкви, который обладал художественным талантом.
Через небольшой период времени Алимпий стал продавать свои иконы на базаре. Благодаря счастливой случайности, работы парня заметил один из лаврских иконописцев. В связи с тем, что в Киево-Печерской Лавре в то время случился большой пожар, для восстановления церквей потребовалось много мастеров, в том числе и художников, гравëров, иконописцев. Так, Алимпий попал в Лавру. Прошел обучение в лаврской школе живописи. С 1721 года он работал там в художественной мастерской, расписывая не только лаврские церкви, но и храмы других монастырей