Твір розпочинається з опису старого рибалки, Сантьяго, який живе на острові Куба. "Старий був кощавий, виснажений, потилицю його поорали глибокі зморшки, на обличчі темніли коричневі плями нешкідливого нашкірного раку, що з'являються від сонячного проміння, відбитого тропічним морем".
Все його життя пов'язано з морем, без нього чоловік не уявляє свого існування. Навіть його очі мали колір моря, вони завжди весело блищали. Сантьяго, мабуть, був найстарішою рибалкою на всьому острові.
Вже вісімдесят чотири дні старий виходив у море, але йому не вдавалося нічого спіймати. Перші сорок днів з ним був хлопець, який допомагав йому у цій справі. Однак потім його батьки вирішили віддати свого сина до іншого рибалки, адже вже пішла чутка, що Сантьяго вже став salao (невдахою). Хлопцю було прикро дивитися, як його минулий наставник кожного дня виходить у море з надією щось упіймати, проте в кінці дня вертається додому ні з чим.
Манолін, так звали того хлопця, любив старого і всіляко намагається йому допомогти. Юнак знову хоче повернутися до свого першого вчителя, але тато йому не дозволяє – всі зневірилися у Сантьяго. Щоб хоча б якось відволікти старого від сумних думок, Манолін пропонує почастувати його пивом на "Терасі" і чоловік із задоволенням погоджується. Вони сіли у рибальському кафе, рибалки обговорювали свій улов, а дехто кепкував із невдач старого. Проте, незважаючи на це, Сантьяго не ображався на прикрі слова, які лунали у його адресу. Старий із хлопчиком пригадували, як у перший день, коли Сантьяго взяв п'ятирічного Маноліна у море, чоловік врятував йому життя. Хлопець усе пам'ятав, від першого дня їхнього знайомства. Манолін пропонує віддати старому чотири живці, але той погоджується лише на два.Згодом вони вирушили додому, хлопець допоміг Сантьяго віднести снасті у хатину. Хата у старого була дуже простою, зроблена із пальмового листя. Там стояли лише ліжко, стіл та стілець. Раніше на стіні висіла фотографія покійної дружини Сантьяго, але скоро він зняв її, адже при погляді на неї чоловіку ставало дуже сумно.
Манолін запитав у хазяїна, що можна скуштувати на вечерю. Той відповів, що у нього є казанок жовтого рису з рибою. Хлопець спитав дозволу взяти сітку для сардин, Сантьяго дозволив. Однак всі вони прекрасно розуміли, що ні казанка рису з рибою не було, ні сітки. Кожного дня вони прикидались один перед одним, що у старого все добре. Він вважав, що вісімдесят п'ять – щасливе число і саме у цей день йому пощастить спіймати здоровенну рибину.
Незабаром хлопець пішов по сардини, а старому запропонував почитати газету на сонечку. Сантьяго погодився, пообіцявши, що перекаже Маноліну новини про бейсбол. Коли хлопець повернувся до хатини старого, він спав на своєму стільці. Манолін зауважує, що, незважаючи на худобу, у старого дуже широкі та могутні плечі. На ньому була латана сорочка, як вітрило, а ноги зовсім були босими. Хлопець не став будити старого, а лише, прикривши його ковдрою, пішов собі додому. Коли він прийшов вдруге, Сантьяго ще спав, тому хлопець розбудив старого, поклавши йому руку на коліно. Дбаючи про нього, Манолін приніс поїсти своєму старому другові. За вечерею вони, як тому треба товаришам, розмовляють про бейсбол та видатних спортсменів. Згодом почало вже смеркатися, тому Манолін прощається із Сантьяго, попросивши старого розбудити його вранці, адже він не любить, коли це робить інший рибалка.
Старий заснув швидко. У сні йому ввижалася Африка зі своїми довгими берегами та величезними темними горами. Його сни були напрочуд спокійними: він бачив далекі краєвиди та леви на березі. Він любив тих левів, як Маноліна, проте, на жаль, хлопець йому ніколи не снився.
Прокинувшись після довгої ночі, Сантьяго пішов будити свого друга. Хлопець настільки був сонним, що старий попросив у нього вибачення за те, що так рано його збудив. Але Манолін твердо відповів: "Чоловік повинен робити своє діло". Він допоміг старому віднести снасті до човна, а потім, попивши з ним кави в рибальській харчівні, побажав йому щасливого робочого дня у морі. Сантьяго певен, що саме у цей день йому поталанить.
Сьогодні старий вирішив плисти аж у відкрите море, він "кермував просто на свіжий вранішній дух океану". Сантьяго завжди порівнює море з жінкою, з живою істотою. Воно може подарувати людям велику ласку, а може, навпаки, позбавити неї. Чоловік по-справжньому любив море, знав усіх морських істот, кожен з яких у нього викликав певні почуття.
Ось старий закинув першу наживу й пустив човен поволі йти за течією. Він чітко знав на якій глибині знаходиться його приманка. Пильно стежачи за вудлищами, чоловік потихеньку веслує. Ось-ось зовсім скоро має вийти сонце. Раптом пролетів птах-фрегат, видивляючись здобич у морських глибинах. Старий вирішив веслувати за птахом. Незабаром над водою піднялася літаюча риба, на яку так завзято полює фрегат. Однак Сантьяго добре знає, що птаху цю рибину не спіймати – вона занадто прудка і велика для нього.