Яков Аронович Слоним начал литературную деятельность в 1908 г. с перевода на русский язык рассказа Менделе Мойхер-Сфорима «Шейм вейофес». Перевёл с идиша на русский язык романы Шолом-Алейхема «Блуждающие звезды», «Потоп», «Стемпеню», повести «Мальчик Мотл», «Касриловка»; роман Ш. Аша «Мать»; роман О. Варшавского «Контрабандисты»; рассказы и роман «Сила жизни» Г.И. Добина; повести и рассказы И.З. Гордона и другие.
На идиш перевел произведения болгарских писателей, русских поэтов, в том числе сказки А.С. Пушкина.