Минский сценарист Николай Фигурновский прислал на киностудию им. Горького сценарий под названием «Благоразумная ведьма» о потерявшемся в жизни человеке, от отчаяния выдающим себя за отца уже взрослой девушки. Сценарий понравился главе киностудии Сергею Герасимову, и было решено вызвать режиссёра в Москву, чтобы решить, кто начнёт работу над будущим фильмом. Режиссёр Лев Кулиджанов историю яростно раскритиковал и сказал, что лично он это снимать не будет. Спустя месяц Фигурновский отправил пакет с полностью переписанным сценарием лично Кулиджанову. Режиссёр прочитал новую версию и сразу заявил, что берёт сценарий в работу.

«Когда деревья были большими», к/с им. М. Горького, 1961, реж. Л. Кулиджанов

На роль Иорданова без проб был приглашен Василий Меркурьев. Актёр согласился, но позже выдвинул ряд требований, которые режиссёр не мог выполнить. Он отказался выезжать в подмосковную деревню Мамоново и хотел, чтобы съёмки перенесли поближе к его даче под Ленинградом. От Меркурьева пришлось отказаться. Следующий кандидат — Борис Андреев — не подошёл к роли по фактуре, и тогда Кулижданов решил пригласить в драму циркового актёра Юрия Никулина, который был известен зрителям по комедиям. Режиссёр не был знаком с Никулиным и даже не видел ни одного фильма с его участием, но был впечатлён его выступлением в цирке. Актёр сомневался, что он, комик, сыграет человека со сложной судьбой, но уже после проб стало понятно, что получилось стопроцентное попадание в образ.

«Когда деревья были большими», к/с им. М. Горького, 1961, реж. Л. Кулиджанов

На роль Наташи пригласили начинающую актрису Инну Гулая. На пробах снималась сцена разговора Кузьмы с Наташей в деревенской избе. Чтобы актёры выглядели более непринуждённо, на площадку принесли кастрюлю горячего борща и разлили по тарелкам. На пробы ушло пять дублей, и на каждом дубле Гулая с аппетитом съедала порцию борща. Когда Юрий Никулин спросил, как у неё получается так много есть, актриса спокойно ответила: «Волнуюсь». У Инны Гулая был непростой характер, и на съёмках она спорила и даже ссорилась с режиссёром по поводу видения своей роли. Зачастую режиссёр признавал правоту актрисы и позволял ей играть так, как она хочет.

«Когда деревья были большими», к/с им. М. Горького, 1961, реж. Л. Кулиджанов

Лев Кулиджанов посоветовал Юрию Никулину наблюдать на улицах за теми, кто похож на его героя — выпивающих, помятых, ищущих случайный заработок. Никулин гулял около пивных и примеривал на себя роль завсегдатаев подобных заведений. Первый съёмочный день проходил в мебельном магазине. Актёра загримировали, переодели и привезли на съёмочную площадку. В дверях магазина стояли директор, режиссёр Лев Кулиджанов и оператор Валерий Гинзбург. Когда Никулин направился к ним — директор магазина преградил ему путь и попросил убираться отсюда и не мешать съёмкам, добавив, что он тут его уже не первый день видит. Никулин пытался доказать, что он актёр, что вот стоят главные люди съёмочной команды, но режиссёр с оператором в один голос заявили, что этого странного человека видят первый раз… И только когда на скандал начал собираться народ, Кулиджанов с Гинзбургом признались, что это исполнитель главной роли.

«Когда деревья были большими», к/с им. М. Горького, 1961, реж. Л. Кулиджанов

В начале съёмок рабочий материал просмотрели в Министерстве культуры СССР и чуть было не остановили съёмки из-за того, что главный герой — пьющий и тунеядец, но сыгран так талантливо, что может не тому научить зрителя. Но заместитель министра отстоял картину, сказав, что он верит режиссёру и актёрам — они не могут снять вредный фильм. Когда готовый фильм сдали худсовету — к нему опять возникли те же самые вопросы. Тогда возглавлявший киностудию имени Горького Сергей Герасимов показал фильм министру культуры Екатерине Фурцевой и заручился её согласием на показ.