Гаршины — старинный дворянский род обрусевших татар, происходящий, по преданию, от мурзы Горши (или Гарши), выходца из Золотой Орды при Иване III. Детство провёл в военной среде (отец Михаил Егорович Гаршин (1817—1870) был офицером). Мать Гаршина, «типичная шестидесятница», интересовавшаяся литературой и политикой, свободно владевшая немецким и французским языками, оказала огромное влияние на сына. Воспитателем Гаршина был П. В. Завадский, деятель революционного движения 1860-х. К нему впоследствии уйдет мать Гаршина и будет сопровождать его в ссылку. Эта семейная драма отразилась на здоровье и мироощущении Гаршина.
С 1864 года он учился в Санкт-Петербургской 7-й гимназии, в 1868 году преобразованной в реальную гимназию (впоследствии Санкт-Петербургское первое реальное училище)[5]. По окончании реальной гимназии в 1874 году Гаршин поступил в Горный институт, но не закончил его. Война с Османской империей прервала его занятия: он поступил вольноопределяющимся в действующую армию, участвовал в боевых действиях, получил ранение в ногу. После войны был произведён в офицерский чин и вышел в отставку.