Запрещение жить в деревнях лишало евреев возможности заниматься сельским хозяйством. Запрещение жить в городах лишало их возможности работать в промышленности, на транспорте. В высших и средних учебных заведениях для них установлена была известная унизительная «процентная норма».

Шолом-Алейхем с детства видел тяжелое положение народных масс. Став писателем, он рассказал правду о жизни простолюдинов, стал непревзойденным рассказчиком народного горя.

В 1871 году от холеры умерла мать Шолома Хас-Эстер. Это был большой удар для семьи. Маленькая и во всем покорная своему мужу, эта женщина своей энергией и неутомимым трудом поддерживала порядок в доме. Отец совсем растерялся. Он беспомощно вздыхал и повторял: «Боже, что делать? Как быть?»

Пришлось детей отправить в город Богуслав к дедушке Мойше-Йосе и бабушке Гитл. Там Шолом впервые почувствовал себя сиротой, с горестью сознавая, что он лишний рот и обуза. Отец женился во второй раз. Вернувшись в Переяслав, дети встретили новую хозяйку — мачеху.

Под влиянием известного писателя-просветителя Авраама Мапу (1807 — 1867) Шолом Рабинович стал писать свой собственный роман. В языке и стиле, в общем плане он копировал Many, изменив только название и имена героев. Хотя сочинение и имело подражательный характер, оно понравилось отцу и его друзьям. Они были поражены языком и оборотами речи юного автора. Все предсказывали Шолому блестящее будущее.

В связи с этим встал вопрос о дальнейшей судьбе юноши. Всем было ясно, что пребывание Шолома в хедере не дает ему необходимого кругозора. С 4 сентября 1873 года Шолом Рабинович начал учиться в Переяславском уездном училище (русскоязычном).

Сначала Шолому в училище приходилось туго. Он плохо знал русский язык, и над ним все потешались. Неблагоприятные обстоятельства были и в семье: надо было помогать в работе, терпеть попреки мачехи.

Но любовь к знаниям и стремление к свету были сильны в душе юноши. Поэтому он не жалел ни сил, ни времени, проявляя большую настойчивость, неукротимую волю, и вскоре добился успехов: ему как лучшему ученику была назначена стипендия в размере ста двадцати рублей в год. Это было серьезное материальное подспорье для всей семьи, которая постепенно погружалась в омут бедности.

В 15 лет, прочитав «Робинзона Крузо» Д. Дефо, Шолом тут же написал свой роман «Еврейский Робинзон Крузо», который также был одобрен отцом, соседями и постояльцами заезжего двора.

Выучив русский, Шолом читал А. Пушкина, Н. Гоголя, М. Лермонтова, Н. Некрасова, М. Щедрина, Л. Толстого, Н. Чернышевского, Д. Писарева, У. Шекспира, С. Сервантеса, В. Гете, Ф. Шиллера, В. Гюго, О. де Бальзака и многих других писателей.

В 1876 г. Шолом закончил училище с отличием. Самостоятельная жизнь началась раньше. Еще до окончания училища он стал зарабатывать деньги, чтобы продолжить учебу. Большим ударом было крушение плана поступить в Житомирский учительский институт.

Он стал давать частные уроки в маленьком, вблизи от Переяслава, городке Ржищеве. Но местные «учителя для девочек», конкурировавшие между собой, объединились и начали травлю нового учителя. Они распускали о нем нелепые слухи. Дальнейшее пребывание в Ржищеве становилось невыносимым. Дождавшись конца сезона, Шолом возвратился в Переяслав и дал клятву никогда больше не давать уроков в маленьких городишках. После длительных мытарств в поисках работы, унизительных просьб, даже голода — Шолому, наконец, удалось получить место воспитателя дочери зажиточного арендатора Элимелеха Лоева в деревне Софиевка. Хорошее отношение хозяина, уважение членов семьи, тишина деревенской жизни и красота природы способствовали спокойному, уравновешенному состоянию души мечтательного юноши. Но главное, что наполняло все три года пребывания Шолома в имении Лоева подлинным счастьем, была любовь к ученице Ольге Лоевой, впоследствии ставшей его женой.

Он целыми ночами писал длинные душещипательные романы, патетичные драмы, запутанные трагедии и комедии. Как только сочинение было закончено, он читал его Ольге, и оба были в восторге. Но ненадолго. Стоило Шолому закончить новое произведение — и оно становилось мастерским, превосходным, а предыдущее тускнело, блекло и находило свой конец в печке. В огне погибли не одна дюжина романов и не один десяток драм.

Несмотря на это, и учитель, и ученица не сомневались в том, что Шолому начертано быть писателем. И с этим связывали они планы, мечты и надежды. Даже не думали о возможной разлуке. Но она была близка. Узнав о любви молодого человека к его дочери, старый Лоев в пылу возмущения самым оскорбительным образом прогнал учителя.

И снова Шолом оказался на улице, без крова, работы, с отчаянием в душе. Опять встал вопрос: «Что делать? Как быть?» Начались дни скитаний и поиска работы. Юноша рассчитывал найти применение своим знаниям, получить какую-то работу в Киеве. Втайне мечтал увидеть кого-либо из известных литераторов. У Шолома были рукописи своих произведений, которыми он надеялся поразить литературный мир. Но первая встреча с одним из писателей Егалелом (псевдоним Левина) разочаровала его.

Устроиться в Киеве Шолому не удалось. Оказавшись без денег, он вынужден был обратиться к отцу за помощью. Получил небольшую сумму и возвратился в Переяслав. Отец сообщил ему, что в ближайшем к Переясламу городке Лубны открылась вакансия казенного раввина. Конечно, не о такой работе мечтал Шолом, не об этом думал, когда писал свои романы и драмы, восторженно принимаемые любимой девушкой. Но выхода не было. Нельзя было упускать и такую возможность.

Шолом поехал в Лубны и 21 декабря 1880 года был избран там казенным раввином. На этой должности он старался быть не «лицемером, лизоблюдом у богачей и чиновников правительства». С головой ушел в общественную деятельность, был инициатором создания больницы, светской школы для детей бедняков. Приходилось преодолевать косность, рутину и тьму предрассудков обывательской психологии, реакционного мещанского быта, обманы и сплетни.

Пробыл Шолом в Лубнах два с половиной года, тайно переписываясь с Ольгой. Наконец, по. сле длительной разлуки, они встретились в Киеве и, вопреки воле старого Лоева, поженились (12 мая 1883 года).

Михаил Кауфман, зять Шолом-Алейхема, вспоминал: «С женой он прожил тридцать лет, словно счастливых тридцать дней. Их взаимная привязанность была неповторимой. Оба сохранили нежность чувств и остроту любви до последнего вздоха. Когда он отлучался из дому, он с дороги писал ей письма. Это были послания жениха к невесте. Она вела все его дела, оберегала от всех невзгод. Только от смерти она не могла уберечь его. Это было не в ее силах…»

Первое литературное выступление Шолома Рабиновича относится к 1879 году. Это была корреспонденция в газете «Гацефира» («Рассвет») на древнееврейском языке. В 1881 и 1882 годах последовали статьи в газете «Гамейлиц» («Защитник»), тоже на древнееврейском языке. Статьи начинающего литератора были посвящены вопросам воспитания, преподавания и военной службы.

В 1883 году в газете «Юдишес фолксблат» («Еврейский народный листок») был напечатан на идише первый рассказ Шолома Рабиновича под псевдонимом Шолом-Алейхем.

В течение 1883–87 гг. Шолом-Алейхем опубликовал серии фельетонов и очерков («Перехваченные на почте письма», «Картины Бердичевской улицы», «Картины Житомирской улицы»), повести, рассказы, драматические сцены, стихи; на русском языке — повесть «Мечтатели». Он следовал демократическим и просветительским традициям русской и еврейской литератур.

Во второй половине 80-х гг. Шолом-Алейхем выступил с программой развития еврейской литературы. В памфлете «Суд над Шомером, или Суд присяжных над всеми романами Шомера. Стенографировано Шолом-Алейхемом», в серии статей «Тема нищеты в еврейской литературе», в «Письме к другу» он повел борьбу против бульварной литературы Шомера и его последователей, против идиллической романтики, выступая за реалистическую народную литературу.

Шолом-Алейхем — организатор ежегодника «Ди идише фолксбиблиотек» («Еврейская народная библиотека»), вокруг которого объединились известные писатели того времени. Ежегодник сыграл заметную роль в истории новой еврейской литературы.