Недружелюбие между двумя странами сохранялось и после заключения Рижского мирного договора и установления дипломатических отношений. На фоне недавних событий советско-польской войны 1920 года коммунистами повсюду насаждалась идея о «пролетарской крепости», осаждаемой империалистами. Неудивительно, что в такой международной обстановке многие поляки стали удобными мишенями и пополнили собой список жертв «охоты на шпионов». За 1924–1929 годы таких подозреваемых расстреливали сотнями, хотя истинными шпионами оказывались единицы. Тогда же советский режим развернул широкую антирелигиозную кампанию — преследованиям подверглись сотни католиков, десятки из них были расстреляны или пропали без вести. По сравнению с гонениями на Русскую Православную Церковь репрессии подобного масштаба выглядят малозначительными, тем не менее речь идет о разрушении института Церкви как такового — духовной и культурной основы мироощущения большинства польских крестьян.

Эти крестьяне фигурируют и среди жертв коллективизации. В соответствии с принятой тогда официальной классификацией 20 % крестьян были признаны «кулаками», чуть большее их число — «подкулачниками». Поляки, проживавшие на территории Украины, оказали властям сопротивление, которое было подавлено самым жестоким образом: по не до конца уточненным данным, численность проживавших в этих регионах поляков только за 1933 год уменьшилась на 25 %. На территории Белоруссии процесс раскулачивания польских крестьянских хозяйств протекал относительно бескровно.

Если не считать репрессий против «польских шпионов», то эти преследования явились закономерным следствием общего хода «классовой борьбы», включающей антирелигиозную борьбу и коллективизацию. Однако коллективизации показалось недостаточно, и появился новый повод для репрессий: в период между 15 августа и 15 сентября 1933 года по приказу властей было арестовано около двадцати польских коммунистов, в основном эмигрантов, один из которых был членом политбюро Коммунистической партии Польши (КПП). За этими арестами последовали новые. Общая формулировка обвинения была следующей: принадлежность к «шпионской вредительской организации ПОВ».

Польска Организация Войскова (ПОВ), основанная в 1915 году Юзефом Пилсудским для тайной деятельности против Австро-Венгрии и Германии, в 1918–1920 годах использовалась в разведывательных целях на территориях, охваченных Гражданской войной, в частности на Украине. Деятельность организации завершилась в 1921 году. Члены ПОВ в большинстве своем придерживались левых взглядов, среди них насчитывалось немало представителей Польской социалистической партии (ППС). Некоторые порвали с социалистами и вступили в ряды коммунистической партии. К 1933 году ПОВ уже не существовало. Тем не менее множество поляков были арестованы по ложному обвинению в принадлежности к ПОВ, некоторым был вынесен смертный приговор — так погиб известный поэт-авангардист Витольд Вандурский, другие — были замучены в тюрьмах. Уцелевшие заключенные были расстреляны в период Большого террора.

На протяжении долгих лет «дело ПОВ» служило питательной средой для внутренней борьбы в Коммунистической партии Польши: клеймо «провокатора ПОВ» было столь же опасным для жизни, как и звание «троцкиста». Еще более важный момент — составленные ОГПУ (впоследствии ГУГБ НКВД) списки поляков, работавших в тот период в советских административных органах, Коминтерне и службе госбезопасности. Показательно, что к этим спискам добавили перечень поляков, проживавших на Украине и в Белоруссии, в двух польских автономных районах. Первый, на территории Украины, носивший имя Юлиана Мархлевского (одного из создателей КПП, умершего в 1925 году), был образован в 1925 году; второй появился в 1932 году и был назван в честь Феликса Дзержинского. В каждом районе была своя местная администрация, пресса, театры, школы, издательства на польском языке, вместе они составляли включенную в состав СССР «советскую Польшу».

В сентябре 1935 года по Киеву, Минску и Москве прошла волна арестов, призванных, согласно официальной версии, положить конец так называемой агентурной сети ПОВ. Одновременно с этой акцией началась ликвидация польской региональной автономии. Аресты функционеров НКВД польского происхождения начались в 1936–1937 годах и были частью Большого террора. Сначала судебному преследованию подверглись верховные иерархи органов госбезопасности, затем стали допрашивать и рядовых членов. На пленуме Центрального комитета ВКП(б) в июне 1937 года Н. Ежов проинформировал присутствующих о том, что ПОВ «внедрилась в советские разведывательные органы» и что НКВД удалось «раскрыть и ликвидировать крупнейшую из польских подпольных шпионских организаций». Сотни поляков были интернированы, включая большинство руководителей КПП, предъявленные обвинения впоследствии подкреплялись признаниями, вырванными на допросах.

Летом 1937 года НКВД провел очередные репрессии против национальных меньшинств — сначала против немцев, затем против поляков. 11 августа Ежов подписал оперативный приказ № 00 485 «О полной ликвидации… личного состава польской агентурной разведки, действующей в СССР».

Решение НКВД и Совета Народных Комиссаров от 15 ноября 1938 года положило конец «польской операции», за которой, впрочем, последовала «чистка» рядов самих сотрудников НКВД, участвовавших в операции. Репрессии коснулись не только партийных руководителей (были расстреляны 46 членов Центрального комитета и 24 кандидата), но и простых граждан — рабочих и, в большей мере, крестьян. Согласно донесению НКВД от 10 июля 1938 года, число заключенных польского происхождения составляло 134 519 человек, около 53 % из них были жителями Украины и Белоруссии. От 40 % до 50 % из них были расстреляны (что составило примерно от 50 000 до 67 000 жертв), оставшиеся в живых — отправлены в лагеря или депортированы в Казахстан.

Поляки составили 10 % от общего числа жертв Большого террора и примерно 40 % всех погибших в ходе операций, направленных против национальных меньшинств. Речь идет о минимальных показателях, поскольку тысячи поляков Украины и Белоруссии были высланы независимо от «польской операции». Освободились не только номера гостиницы «Люкс», где обитали польские коммунисты, и кабинеты, где они некогда работали, — опустели польские деревни и колхозы, в которых трудились сотни тысяч простых людей.