Родителями Бима были породистые шотландские сеттеры с длиннейшей родословной, но щенок родился «бракованным». Правильный сеттер «должен быть обязательно чёрный, с блестящим синеватым отливом — цвета воронова крыла, и обязательно с чётко отграниченными яркими отметинами, рыже-красными подпалинами». У Бима же иссине-чёрными были только одно ухо и задняя нога, остальная шёрстка — мягкого желтовато-рыжего окраса. Заводчик хотел утопить неудачного щенка, но Иван Иваныч взял его себе и выкормил из соски.
Писатель Иван Иваныч жил один. Жена его давно умерла, и он часто разговаривал с её портретом. Для Бима он был самым важным человеком в мире — хозяином. Щенок рос очень умным и интеллигентным. Хозяин часто вывозил его за город, на луг или в лес. В первый раз Бим почуял перепела, когда ему исполнился год. «К двум годам Бим стал отличной охотничьей собакой, доверчивой и честной. Он знал уже около ста слов, относящихся к охоте и дому». Он чувствовал настроение хозяина и по глазам мог определить, как тот относится к новому человеку. На врага Бим мог зарычать, но никогда никого не кусал.
Со своим первым врагом Бим встретился на третью осень жизни. Это была тётка «небольшого роста, визгливенькая и жирная». Она целые дни просиживала на скамейке у подъезда вместе с другими «свободными женщинами». Однажды пёс от «избытка чувств ‹…› к человечеству» лизнул ей руку. Тётка завизжала на весь двор, испугав Бима, и написала жалобу председателю домкома о том, что пёс её укусил. Когда председатель пришёл к Ивану Иванычу, они с Бимом собирались на первую в сезоне охоту. Хозяин продемонстрировал все команды, какие умел выполнять пёс. Бим очень элегантно подал лапу председателю, но поздороваться с тёткой отказался наотрез. При виде «свободной советской женщины» собака забилась в самый дальний угол и не послушалась хозяина, чего с ней никогда не бывало. Председатель понял, что Бим боится тётку, и больше не стал её слушать. Тётка же сочла себя оскорблённой и стала врагом Бима.
Биму пошёл уже четвёртый год, когда под сердцем Ивана Иваныча зашевелился осколок, ещё с войны сидевший под сердцем. Однажды вечером соседка, старушка Степановна, вызвала скорую и хозяина увезли. Бима он оставил на попечение соседки. Пока длилась болезнь хозяина, пёс гулял сам, а возвращаясь домой, царапал в дверь лапами. Утром, в отсутствие хозяина, он отказался есть и соседка выпустила его со словами: «Пойди, поищи чего-нибудь». Бим понял это по своему: иди, поищи хозяина. Пёс бросился по следу, который привёл его прямо к больнице скорой помощи. Бим культурно поцарапался в дверь, но внутрь его не пустили. К этой двери Бим приходил несколько раз, но хозяин всё не появлялся.
Пёс начал просто ходить по улицам, надеясь, что рано или поздно натолкнётся на любимого хозяина. За это время он понял, что не все люди добрые, и научился отличать добрых людей от злых. Однажды на улице Бима увидела тётка и устроила скандал. Какой-то студент и девушка Даша заступились за пса, а милиционер по номеру на ошейнике узнал адрес Бима. Так пёс, сопровождаемый Дашей, снова попал домой.
Даша познакомилась со старушкой Степановной, которая рассказала девушке, что Ивана Иваныча увезли в Москву, делать сложную операцию. Даша прикрепила на ошейник пса латунную пластинку с надписью: «Зовут его Бим. Он ждёт хозяина. Хорошо знает свой дом. Живёт в квартире. Не обижайте его, люди». Есть пёс отказался.
На следующий день Бима снова потянуло на поиски хозяина. Во время своих скитаний по городу пёс познакомился с компанией детей, среди которых был мальчик Толик, который сумел его накормить. «Бим и раньше относился к детям особо, а теперь он окончательно уверился, что маленькие люди все хорошие, а большие бывают разные». В это время к детям подошёл дядька в серой одежде. Он увидел табличку на ошейнике Бима и заявил ребятам, что отведёт пса домой.
Серый оказался коллекционером собачьих знаков. Он привёл Бима к себе и снял с его ошейника латунную табличку. Серый побоялся, что дети увидят пса без таблички и обо всём догадаются, и решил оставить его на ночь в своей квартире. Ночью Биму стало тоскливо в чужом жилище, и пёс завыл. Серый проснулся, начал бить его палкой, затем распахнул дверь, чтобы выгнать. Именно тогда Бим впервые в жизни укусил человека.
Шли дни. Бим каждый день обегал город по одному и тому же маршруту — по нём можно было сверять часы. Теперь люди называли его Чёрным Ухом. Однажды он учуял запах Даши, который привёл его к вокзалу. Пробравшись на перрон, Бим увидел Дашу в одном из вагонов. Поезд тронулся, пёс бросился следом и бежал, пока его не оставили силы. В город Бим возвращался поздно вечером. Он шёл по рельсам, когда кто-то перевёл стрелку, и лапа пса попала «в могучие тиски». Локомотив, шедший навстречу, сумел остановиться прямо перед ним. Один из машинистов освободил Бима, но его передняя лапа сильно пострадала. Хромой, он с трудом добрался до дома. С тех пор Степановна не отпускала пса одного.