В 1932 г. Ляпунов становится младшим учеником академика Н. Н. Лузина, под чьим руководством, по чьим программам проходит его математическое образование. Под его же руководством в 1933–1934 гг. Ляпунов получает первые результаты в области дескриптивной теории множеств.

В апреле 1934 г. Ляпунов возвращается к Лазареву в Отдел биофизики ВИЭМа, но уже не как экспериментатор, а как математик. К этому времени относится и начало профессиональных контактов математика Ляпунова с биологами.

В начале 30­х годов Ляпунов сближается со старшими учениками Лузина, известными математиками — Н. К. Бари*,М. А. Лаврентьевым , Д. Е. Меньшовым*, Л. А. Люстерником*, А. Н. Колмогоровым, Л. В. Келдыш*, П. С. Новиковым. С ноября 1934 г., после переезда Академии наук в Москву, Ляпунов — младший научный сотрудник Отдела теории функций действительного переменного Математического института им. В. А. Стеклова АН СССР. В этом институте с перерывами он проработал до начала 50­х годов.

С 1934 г. и до своей кончины Ляпунов работал в области дескриптивной теории множеств. Дескриптивная теория множеств возникла на рубеже XX в. Ее основы были заложены французскими математиками Р. Бэром, Э. Борелем и А. Лебегом. Дальнейшее развитие ее обязано работам отечественных и польских математиков, в первую очередь школе Лузина, где это направление с 1916 г. продолжали П. С. Александров, М. Я. Суслин, Н. Н. Лузин, М. А. Лаврентьев, А. Н. Колмогоров, П. С. Новиков, а в Ленинграде —Л. В. Канторович и Е. М. Ливенсон. Теории множеств и теории функций посвящено 62 работы Ляпунова, 12 работ были опубликованы им еще до войны и начата работа над монографией, напечатанной в 1953 г. «Некоторые математические теоремы сродни законам природы, они уже не уходят из поля зрения ученых. К ним постоянно возвращаются, находят все новые и новые применения и доказательства. К числу таких теорем относится теорема А. А. Ляпунова о множестве значений аддитивной вектор-функции множеств (1940). Трудно перечислить все ее приложения: они относятся и к математической статистике, и к математической экономике»,— так характеризует работу Ляпунова В. Я. Арсенин. Последние предвоенные годы были для Ляпунова не простыми. В 1937 г. руководимый Лузиным отдел Математического института АН СССР был закрыт, и Ляпунов был уволен «по сокращению штатов». Не имея постоянной работы, он читал лекции, а с осени 1937 г. до начала войны руководил семинаром по теории множеств при Научно-исследовательском институте математики МГУ. С осени 1938 г. Ляпунов начал работать на договорных началах в «Стекловке» над подготовкой монографии по дескриптивной теории множеств; в 1939 г. защитил кандидатскую диссертацию; и в конце 30­х годов он уже признанный специалист в одной из наиболее абстрактных областей математики.