Иван Иванович Дмитриев родился в селе Богородицком, родовом поместье родителей, близ Сызрани. Получил поверхностное образование сначала дома, потом в частных пансионах Казани и Симбирска. Стесненные денежные обстоятельства отца Дмитриева заставили его отправить сына на военную службу в возрасте 14 лет. По обычаю того времени Иван Дмитриев был записан в гвардию (в петербургский Семеновский полк). Сначала он учился в полковой школе, потом получил офицерский чин. За двадцать два года он дослужился до звания капитана, а в отставку вышел в чине полковника. На большее скромный Дмитриев и не рассчитывал. Но неожиданные события резко изменили его жизнь: в 1797 г. по ложному доносу Дмитриев был арестован и обвинен в подготовке покушения на Павла I. Вздорность и нелепость обвинения быстро обнаружились. Дмитриева освободили, а император Павел, желая вознаградить невинно пострадавшего и возместить нанесенный дворянину моральный ущерб, вернул его на службу и назначил на высокий пост обер-прокурора Сената. Через два года Дмитриев получил чин тайного советника. Позже, уже при Александре I, в 1806 г., он был назначен сенатором, а затем министром юстиции. В 1814 г. Дмитриев окончательно ушел в отставку и поселился в Москве.
Первые подражательные стихи Дмитриева напечатаны в 1782 г. в журнале «Утро», первые серьезные переводы — в «Утренних часах» (1789). Известность пришла к Дмитриеву в 1791 г., когда он начал систематически печататься в «Московском журнале» Карамзина, своего близкого друга. Большим успехом пользовались его песни, особенно «Стонет сизый голубочек...», сказки, прежде всего «Модная жена», и басни. В 1795 г. он издал первый сборник своих стихотворений: «И мои безделки» (название подчеркивало связь с Карамзиным, издавшим в 1794 г. сборник под названием «Мои безделки»). Девяностые годы были самой плодотворной порой творчества поэта. В 1802—1803 гг. он издал собрание своих произведений в трех частях. Это собрание несколько раз переиздавалось при жизни поэта. В 1823 г. вышло шестое, последнее, прижизненное издание стихотворений в двух частях. В 1895 г. вышли сочинения Дмитриева в двух частях под редакцией А. Флоридова.