В Себеже Гердт пошел в школу. С первых классов он писал и публиковал в местных газетах стихи на русском языке и идише. Занимался и художественной самодеятельностью – выступал на литературных вечерах, играл в школьных спектаклях. В аттестате ему написали «имеет склонность к драматической игре».
Актерскую карьеру Зиновий Гердт начал в театре рабочей молодежи, когда учился в техническом училище на слесаря.
В 1932 году Зиновий Гердт с семьей переехал в Москву, где поступил в фабрично-заводское училище на слесаря.После окончания училища Гердт работал на «Метрострое» – монтировал электроподстанции, а в свободное время играл в московском театре рабочей молодежи (ТРАМ) при заводском клубе. В ТРАМе он познакомился с режиссером Михаилом Швейцером, писателями Борисом Слуцким, Михаилом Львовским, Александром Галичем, Давидом Самойловым. Посещал Гердт и литературные вечера. Актер старался говорить грамотно,на досуге читал словари. В конце 1930-х театр рабочей молодежи преобразовали в студию Валентина Плучека и Алексея Арбузова – «Арбузовскую студию». Именно тогда появился псевдоним Зиновий Гердт. Коллеги решили, что настоящее имя Гердта звучит «несерьезно и неблагозвучно»
В июне 1941 года началась Великая Отечественная война. Зиновий Гердт записался в армию добровольцем.
В феврале 1943 года в боях под Харьковом Гердт получил тяжелое ранение – в его ногу попал осколок танкового снаряда. За четыре года артист перенес одиннадцать операций. Гердт вспоминал: «Выпускали несколько раз, на костылях, а потом я возвращался». После операций одна нога у актера была короче другой на восемь сантиметров. Из-за этого он хромал до конца жизни.
В 1945 году Гердт присоединился к труппе Центрального театра кукол (ГЦТК). На просмотр к его руководителю Сергею Образцову актер пришел на костылях.
Первым спектаклем Гердта в ГЦТК стал «Маугли». Актеру дали роль рассказчика - он должен был читать текст из-за кулис. А первую роль с куклой он исполнил в 1946 году в постановке «Необыкновенный концерт», где сыграл конферансье Эдуарда Апломбова. Спектакль стал очень популярен. Племянник Гердта Эдуард Скворцов вспоминал: «Необыкновенный концерт» <...> пришлось играть более пятисот раз. Так вот, Зяма превратил рутину в пятьсот вариаций Гердта на собственную тему, как классный джазмен, не повторяясь ни разу».
Позднее спектакль показали и за границей. Труппа театра побывала в Китае, Египте, Швеции. Гердт рассказывал: «В зарубежных гастрольных поездках роль Конферансье я всегда играю на языке народа той страны, в которой мы выступаем». Переводить текст на иностранный язык ему помогал профессиональный переводчик, который ездил вместе с труппой на гастроли. Вместе с ним актер изучал местную прессу, а затем добавлял шутки из нее в сценарий.
В Центральном театре кукол Зиновий Гердт проработал почти сорок лет. Актер ГЦТК Роберт Ляпидевский вспоминал: «Что бы ни случилось — какая-то неприятность, какая-то неполадка, что-то не так с куклой, дурное настроение, простуда, температура, вино или грузинская чача — неважно что, — Гердт всегда играл свой спектакль на высшем уровне. Таких актеров — единицы».
Роли в Кино.
С 1962 года Зиновий Гердт вел на телевидении передачу «Кинопанорама», где рассказывал о советских и иностранных фильмах, брал интервью у режиссеров и актеров. В кино он начал сниматься в конце 1950-х годов. Как правило, это были эпизодические роли. Кроме этого Гердт озвучивал киноленты. «Муми-тролли», «Волшебник Изумрудного города», «Приключения капитана Врунгеля» - его голос можно услышать в нескольких десятках фильмов и мультипликационных картин. Актер Константин Райкин писал: «Если в фильме звучал голос Гердта — фильм не мог быть пустым».
В 1967 году Петр Тодоровский пригласил Гердта сняться в картине «Фокусник». Он должен был сыграть артиста-сатирика. Однако вскоре Тодоровский решил отдать актеру главную роль. Режиссер вспоминал: «Зиновий хвалил сценарий, восторгаясь замечательно выписанной ролью главного героя, завидовал актеру, которому будет предложена роль фокусника. <...> Я слушал Зиновия и вдруг подумал: так вот же он, фокусник!».
Семья
Зиновий Гердт был женат трижды. Со своей первой женой, актрисой Марией Новиковой, артист познакомился в «Арбузовской студии». Гердт и Новикова поженились в начале 1941 года. Вскоре актер ушел на войну. В 1945 году у Новиковой и Гердта родился сын Всеволод, но вскоре после рождения ребенка они расстались.
Второй женой Гердта стала скульптор Екатерина Семерджиева - вместе они прожили восемь лет.
В 1958 году во время гастролей с театром кукол в Египте, Сирии и Ливане Зиновий Гердт познакомился со своей третьей супругой - филологом Татьяной Правдиной. Она переводила «Необыкновенный концерт» на арабский язык. Через два года Правдина и Гердт поженились. Вместе они прожили больше тридцати лет. Позже Правдина вспоминала: «Мы были счастливой семьей — семьей единомышленников, то есть не только любили друг друга как мужчина и женщина, но и дружили».
Гердт и Правдина часто устраивали праздники, на которые приходили их друзья – актеры, режиссеры и писатели.
В 1982 году Зиновий Гердт перешел на работу в Театр имени Марии Ермоловой. Там он сыграл костюмера в одноименном спектакле Евгения Арье. Режиссер и актер Михаил Козаков в книге «Рисунки на песке» назвал эту роль Гердта вершиной его театрального творчества: «Гердт в дуэте с Всеволодом Якутом прогремел на всю Москву. Слава Богу, что эта работа Гердта зафиксирована на пленке в телевизионной версии».
В эти годы Гердт продолжил сниматься в кино. Он сыграл в фильмах «О бедном гусаре замолвите слово», «Мэри Поппинс, до свидания!», «Интердевочка» и других. На телевидении в 1980-х актер вел передачи «Ваш выход» о закулисной жизни советских театров и «Киноафиша», где делал обзоры на новые фильмы.
Через год Гердт сыграл жулика Михаила Паниковского в экранизации романа Ильи Ильфа и Евгения Петрова «Золотой теленок». Режиссер картины Михаил Швейцер вспоминал: «Как только Зяма вышел на съемочную, сел, вздохнул, начал кряхтеть, мне стало ясно, что это не просто актер, который подходит на роль Паниковского, а нечто взятое прямо из жизни». Эта роль прославила актера. Гердта стали узнавать на улицах. Через год он получил звание Народного артиста РСФСР.
В фильме «Тень» по пьесе-сказке Евгения Шварца артист исполнил одну из немногих отрицательных ролей в своей карьере – министра финансов.