Гудстейн опубликовал множество работ по финитизму и реконструкции анализа с финитистской точки зрения, например, «Constructive formalism — essays on the foundations of mathematics» («Конструктивный формализм: очерки об основах математики»). Теорема Гудстейна была одним из первых примеров теорем, которые оказались недоказуемыми в арифметике Пеано, но доказуемыми в более сильных логических системах, таких как логика второго порядка). Представил вариант функции Аккермана, известный как последовательность гиперопераций (тетрация, пентация, гексационирование и т. д.).