В 1920 году после демобилизации из Красной Армии он начал литературную деятельность. В 1924 году Николай Эрдман написал свою первую пьесу — «Мандат». Поставленная в 1925 году в Театре им. Вс. Мейерхольда (ГосТиМе), а затем в Ленинградском академическом театре драмы, она принесла признание молодому драматургу. 

В 20-х годах сатирическую комедию Эрдмана ставили во многих городах СССР, в том числе в Одессе и Харькове, Баку и Ташкенте; в 1927 году пьеса была поставлена в Берлине и в одном только ГосТиМе выдержала более 350 представлений. Однако пьесу Эрдмана «Самоубийца», написанную в 1928 году, ожидала другая судьба.

 Только в декабре 1931 года её начали репетировать во МХАТе, но спектакль так и не был выпущен; в мае 1932 года к репетициям «Самоубийцы» приступил Мейерхольд в ГосТиМе, но и его спектакль был запрещён на стадии генеральной репетиции. 

И только в 1982 году Валентин Плучек поставил пьесу в Театре Сатиры, однако вскоре после премьеры спектакль сняли с репертуара и разрешили только в 1986 году, в начале перестройки. С тех пор пьеса «Самоубийца» неоднократно ставилась и продолжает ставиться по всей России. 

С 1927 года Николай Эрдман работал в кинематографе как сценарист. Вместе с Владимиром Массом и Григорием Александровым он написал сценарий фильма «Весёлые ребята»; однако во время съёмок фильма в Гаграх, в 1933 году, Эрдман был арестован вместе с Массом. Повод для ареста дали сочинённые ими и не предназначенные для печати политически острые стихи и пародии. 

Фамилии обоих из титров фильма были удалены. Между тем приговор, вынесенный Эрдману, оказался мягким для того времени — ссылка на 3 года в г. Енисейск. 

В 1936 году его освободили, но без права жительства в столице и других крупнейших городах. Эрдман поселился в Калинине, в дальнейшем он жил в Вышнем Волочке, Торжке, Рязани. После ареста Эрдмана был запрещён и его «Мандат»; пьес он больше не писал, но продолжал работать в кино; стал одним из авторов сценария нового фильма Григория Александрова — «Волга-Волга», в 1941 году удостоенного Сталинской премии. 

Осенью 1941 года, как все поражённые в правах, Эрдман был отправлен в глубокий тыл. При проезде через Саратов эшелон с эвакуированными задержался. В это время в здании Саратовского ТЮЗа работал эвакуированный из Москвы МХАТ. На имя директора МХАТа Ивана Москвина пришло письмо, подписанное Лаврентием Берией, в котором Эрдману предлагалось сотрудничество с Ансамблем песни и пляски НКВД. По этому письму Эрдмана сняли с эвакоэшелона и отправили в Москву, к новому месту работы. Таким образом, во время войны он участвовал во фронтовых бригадах, обслуживавших войска НКВД, носил форму. 

В 1942 году режиссеры Эраст Гарин и Хеся Локшина создали по сценарию Николая Эрдмана художественный фильм «Принц и нищий» по одноимённому роману Марка Твена. Фильм вышел на экраны в 1943-м. Несмотря на то что эстрадные программы Масса и Эрдмана для ансамбля НКВД пользовались огромным успехом, несмотря на то, что автор «Мандата» и «Самоубийцы» был демобилизован после войны с отличной характеристикой и как будто «прощён», московской прописки ему не давали. Он получил её лишь в 1951-ом году, после того, как вышел на экраны фильм «Смелые люди», одним из авторов сценария которого был Эрдман. Фильм сняли по специальному заказу Сталина, выразившего желание, чтобы сделали приключенческую ковбойскую ленту про Отечественную войну. Боевик вождю понравился, и Эрдман в числе прочих был удостоен Сталинской премии. 

В 1964-м Эрдман стал консультантом Юрия Любимова и неофициальным членом художественного совета Театра на Таганке. Написал для этого театра инсценировку «Героя нашего времени Лермонтова» (в соавторстве с Любимовым) и интермедии к спектаклю «Пугачев» по драматической поэме Есенина. 

В свои последние годы Эрдман очень повлиял на становление театра на Таганке и успел, если можно так выразиться, «благословить» Владимира Высоцкого. Один раз они даже выступили в качестве соавторов: Эрдман – интермедий, Высоцкий – частушек к спектаклю «Пугачев». Мнения знавших Эрдмана мемуаристов весьма противоречивы: одни считают, что запреты и ссылка его сломали и заставили замолчать, другие — что он сознательно и добровольно принял такое решение, потому что писать правду было нельзя, а лгать он не хотел. Так или иначе, по мнению критиков, многие его сценарии, например, к фильмам «Каин 18-й», «Морозко» или «Город мастеров» написаны на очень высоком уровне. Да и к его произведениям так называемого «малого» (эстрадного) жанра нельзя отнестись с эстетским высокомерием. 

Эрдман писал скетчи, антрепризы, интермедии, либретто, в которых вольно или невольно проявлялись незатухающие искры его огромного таланта. Причём, драматург относился к этой работе с очень большой ответственностью: какую-нибудь эстрадную шутку он мог переписывать по 20 раз. И про халтуру свою знал, талантливых людей старался к ней не привлекать. Об этом вспоминал Сергей Юрский: «Я познакомился с Николаем Робертовичем в Таллине. Меня вызвали туда на кинопробу. Вежливый ассистент режиссера передал приглашение автора сценария зайти поговорить… Я зашел. Эрдман сидел в пижаме в гостиной своего номера и неспешно открывал бутылку коньяка. Было девять часов утра. Эрдман сказал: “С приездом <…> Мы сейчас выпьем за ваш приезд”. — “Спасибо большое, но у меня проба в двенадцать”, – чинно сказал я. — “У вас не будет пробы. Вам не надо в этом фильме сниматься”. – “Почему? Меня же вызвали”. — “Нет, не надо сниматься. Сценарий плохой”. У меня глаза полезли на лоб от удивления. — “Я, видите ли, знал вашего отца. Он был очень порядочным человеком по отношению ко мне. Вот и я хочу оказаться порядочным по отношению к вам. Пробоваться не надо и сниматься не надо. Сценарий я знаю — я его сам написал. Вам возьмут обратный билет на вечер, сейчас мы выпьем коньячку, а потом я познакомлю вас с некоторыми ресторанами этого замечательного города”… 

Все произошло по намеченной Эрдманом программе. В этом фильме я не снимался». Практически до последних дней оставался душой избранного им общества, был очень остроумным собеседником. 

Николай Робертович Эрдман умер 10 августа 1970 года.