Идею фильма придумал поэт и сценарист Геннадий Шпаликов. Он пришел к режиссёру Георгию Данелии и сказал, что у него есть отличная задумка: «Дождь, посреди улицы идет девушка босиком, туфли в руках. Появляется парень на велосипеде, медленно едет за девушкой. Парень держит над девушкой зонтик, она уворачивается, а он все едет за ней и улыбается… Нравится?» Идея Данелии понравилась, и они начали работать над сценарием. Работа шла и во время съёмочного процесса — одни эпизоды переснимались, другие появлялись, вводились новые персонажи, подбирались новые актёры… В результате получился фильм, который стали называть «гимном молодежи 60-х».

«Я шагаю по Москве», к/с «Мосфильм», 1963, реж. Г. Данелия

Изначально сценарий назвался «Верзилы» и в нём было всего два главных героя — приезжий монтажник-сибиряк Володя и обаятельный московский метростроевец Колька. Они гуляли по Москве, знакомились с людьми и попадали в массу смешных ситуаций. В процессе работы над сюжетом появился незадачливый жених Саша и пропал неприятный физик Митя, который в первой версии сценария был женихом Алёны.

«Я шагаю по Москве», к/с «Мосфильм», 1963, реж. Г. Данелия

Шпаликов посоветовал режиссёру взять на роль Кольки 18-летнего Никиту Михалкова, у которого уже было несколько небольших работ в кино. Сам Данелия рассматривал на эту роль Виталия Соломина — его кандидатуру уже одобрил худсовет, но Михалков оказался более фактурным и эмоциональным.
Володю сыграл актёр драматического театра им. Пушкина Алексей Локтев. Для него это была уже четвёртая работа в кино, которая осталась самой заметной в его фильмографии.
Было и несколько дебютов — начинающего актёра Евгения Стеблова, ищущего подработку на лето, ассистент режиссёра увидела в коридоре «Мосфильма», привела к Данелии и его сходу утвердили на роль Саши. После просмотра отснятого материала Стеблов был очень собой недоволен и разочарован: «Я только что видел на экране сумасшедшего человека, и этим человеком был я…»
В «Я шагаю по Москве» первую роль в кино сыграла и третьекурсница Школы-студии МХАТ Ирина Мирошниченко. Впервые появился на экране Валентин Смирнитский — он сыграл эпизодическую роль милиционера в магазине грампластинок, а актриса Инна Чурикова в кино снималась всего второй раз.

«Я шагаю по Москве», к/с «Мосфильм», 1963, реж. Г. Данелия

«Я шагаю по Москве», к/с «Мосфильм», 1963, реж. Г. Данелия

«Я шагаю по Москве», к/с «Мосфильм», 1963, реж. Г. Данелия

«Я шагаю по Москве», к/с «Мосфильм», 1963, реж. Г. Данелия

«Я шагаю по Москве», к/с «Мосфильм», 1963, реж. Г. Данелия

Знаменитую песню к фильму написали композитор Андрей Петров и сценарист Геннадий Шпаликов. Мелодия уже была готова, а слов не было. Тогда в последний съёмочный день режиссёр пригрозил необязательному Шпаликову, что съёмки не начнутся, пока у песни не будет текста. Так и работали: Шпаликов придумал начало — включили камеры, пока снимали эпизод — появился куплет целиком… Худсовету песня понравилась, но он потребовал изменить последние слова в строчке «Над лодкой белый парус распущу. Пока не знаю где…», сказав, что никаких «не знаю где» в советской песне быть не может, мало ли, вдруг герой собирается в Израиль или США… Шпаликов заменил на «пока не знаю с кем».

«Я шагаю по Москве», к/с «Мосфильм», 1963, реж. Г. Данелия

«Я шагаю по Москве» стал основоположником жанра лирической комедии. Когда режиссёр показывал готовый материал в Госкино, то ему сказали: «Непонятно, о чем фильм».
— Это комедия, — ответил Данелия.
— А почему не смешно?
— Потому что это лирическая комедия…
— Тогда так и напишите, что лирическая!
Так в советском кино возник новый жанр. А в титрах к фильму «Джентльмены удачи» сценарист Георгий Данелия подписал: «Нелирическая комедия».

«Я шагаю по Москве», к/с «Мосфильм», 1963, реж. Г. Данелия

Эпизод с циничным полотёром, которого герои фильма приняли за известного писателя, возник прямо на съемках. На одном из рабочих совещаний худсовет заметил, что комедия получается без единого конфликта, показывающей только положительные и оптимистичные стороны жизни. Тогда Данелия и Шпаликов придумали всем недовольного и резко высказывающегося персонажа. Изначально был утвержден Рудольф Рудин, но он не смог приехать на съёмки и роль сыграл Владимир Басов.

«Я шагаю по Москве», к/с «Мосфильм», 1963, реж. Г. Данелия