Прежде чем появиться на большом экране, Зиновий Гердт много работал «за кадром». Сначала – в кукольном театре Сергея Образцова, затем на радио и в дубляже. В 1961 году он впервые прочёл текст от автора в эпохальной картине «Девять дней одного года», после чего его стали приглашать «за кадр» и в художественное кино: «Хотите – верьте, хотите – нет», «Зигзаг удачи», «Спорт, спорт, спорт», «12 стульев»… Его голос полюбился зрителям, ибо актёр не просто читал чужой авторский текст, а именно рассказывал, повествовал от души, от личности самого рассказчика. Голосом Гердта говорили и зарубежные актёры Тото, Де Сика, Ричард Харрис, Питер О Тул, а также Юри Ярвет в роли короля Лира.
Вернувшись с войны после ранения, он и не мечтал о сцене, о кино, так как одна его нога отныне была короче другой. Время показало, что эта беда не помешала актёру стать настоящей звездой. Сначала зрители думали, что хромота его героев нужна по роли, а со временем ее и вовсе перестали замечать.
Экранная жизнь Зиновия Гердта началась с эпизодов. На эпизоды он был приглашен и в такие фильмы, как «Фокусник» и «Золотой теленок», но счастливый случай в обоих случаях помог режиссёрам разглядеть в Гердте нечто большее. Так актёр сыграл первые в своей жизни мощные кинороли – фокусника Кукушкина и жулика Паниковского – которые и предопределили его будущее.
Гердт никогда не играл строго по-написанному, в каждый образ он вносил свой, порой совсем отличный от первозданного, смысл, не прибегал к какой-либо одной краске. Здесь сказывались не только его тяга к драматургии (им написано несколько известных пьес), но и личный интеллект, высокая одаренность. К нему тянулись, с ним хотели общаться, дружить, его слушали, он стал как бы нравственным ориентиром нескольких поколений.
Народный артист СССР (1991).
С 1937 – актер Театра кукол при Московском Доме пионеров. В 1945-1982 – в труппе Центрального Театра кукол под руководством С. В. Образцова, с 1983 – актер театра им. М. Н. Ермоловой.
СЕМЬ НЯНЕК (1962) - Шамский
ГОД КАК ЖИЗНЬ (1965) - Борнштедт
ГОРОД МАСТЕРОВ (1965) – художник
ЗИГЗАГ УДАЧИ (1968) – от автора
ЗОЛОТОЙ ТЕЛЁНОК (1968) - Паниковский
В ТРИНАДЦАТОМ ЧАСУ НОЧИ (1969) тв
ВАС ВЫЗЫВАЕТ ТАЙМЫР (1970) тв - человек в клетчатом пальто
ШАГ С КРЫШИ (1970) - Ворона-колдунья
ЕХАЛИ В ТРАМВАЕ ИЛЬФ И ПЕТРОВ (1971) тв - от автора
ПЕЧКИ-ЛАВОЧКИ (1972) - профессор
РАЙСКИЕ ЯБЛОЧКИ (1973)
АВТОМОБИЛЬ, СКРИПКА И СОБАКА КЛЯКСА (1974) – дедушка, парикмахер, музыкант
РОЗЫГРЫШ (1976) – Карл Сигизмундович
СОЛОВЕЙ (1979) - Бомс
ТРОЕ В ЛОДКЕ, НЕ СЧИТАЯ СОБАКИ (1979) тв – кладбищенский сторож
КОПИЛКА (1980) тв – от атвора
О БЕДНОМ ГУСАРЕ ЗАМОЛВИТЕ СЛОВО (1980) тв – продавец попугаев
АДАМ ЖЕНИТСЯ НА ЕВЕ (1980), тв
ОСЛИНАЯ ШКУРА (1982) - Оревуар
ГЕРОЙ ЕЁ РОМАНА (1984) - Прудянский
МОЙ НЕЖНО ЛЮБИМЫЙ ДЕТЕКТИВ (1986) тв - певец
НА ЗЛАТОМ КРЫЛЬЦЕ СИДЕЛИ (1986) – водяной царь
КУВЫРОК ЧЕРЕЗ ГОЛОВУ (1987) - хозяин крысы
БИНДЮЖНИК И КОРОЛЬ (1989) – Арье-Лейб
ИСКУССТВО ЖИТЬ В ОДЕССЕ (1989) - Арье Лейб
ИНТЕРДЕВОЧКА (1989) – Борис Семёнович
ПРОСТОДУШНЫЙ (1994) – старый заключённый
АНЕКДОТИАДА, ИЛИ ИСТОРИЯ ОДЕССЫ В АНЕКДОТАХ (1994)
ЖИЗНЬ И НЕОБЫЧАЙНЫЕ ПРИКЛЮЧЕНИЯ СОЛДАТА ИВАНА ЧОНКИНА (1994) - Сталин
КАРНАВАЛЬНАЯ НОЧЬ 2 (1996) тв
12 СТУЛЬЕВ (1977) – от автора
МЕСТО ВСТРЕЧИ ИЗМЕНИТЬ НЕЛЬЗЯ (1979) – Михаил Михайлович
ВОЛШЕБНИК ИЗУМРУДНОГО ГОРОДА (1973-74) – Гудвин
ПРИКЛЮЧЕНИЯ КАПИТАНА ВРУНГЕЛЯ (1979) - Врунгель
МУМИ-ТРОЛЛЬ И ДРУГИЕ (1980) – Муми-папа, Морра и Домовой
МАМА ДЛЯ МАМОНТЁНКА (1981) - Морж
ДОКТОР АЙБОЛИТ (1985) - Айболит
БРЭК! (1985) - чёрный тренер