Я так понимаю что дела какется рисования и графических редакторов
1) Трассировка - обводка линией
2) обтравка - тоже типа обводки, но возможно другим способом
3) растрирование - перевод некого векторного обьекта в пиксельное представление
4)маскировка - спрятать кусок слоя, сделать часть рисунка прозрачным, полупрозрачным
5) инвертирование - относится к цвету, каждый пиксель меняет цвет на противоположный