Отец за обедами стал неузнаваем, даже пытался шутить, усмехаться.
Даже - союз, который присоединяет предложение или член предложения со значением уточнения, добавления. Синтаксические конструкции с союзом «даже» выделяются (или отделяются) запятыми.
шутить, усмехаться - однородные члены, между которыми нет сочинительного союза, поэтому ставим запятую.