Когда Ибн аль-Мукаффе исполнилось 18 лет, он покинул Басру и уехал в иранский город Шапур, где занял пост секретаря аль-Масиха, тогдашнего правителя города. Здесь юноша впервые встретился с неким знатным арабом, сыгравшим роковую роль в его судьбе. Этого человека звали Суфьян ибн Муавия, и его род восходил к одному из сподвижников пророка Мухаммада. Суфьян ибн Муавия отличался непомерной спесью и высокомерием и был вместе с тем туп, косноязычен, злопамятен и уродлив. Между Рузбихом и Суфьяном возникла взаимная антипатия, и Рузбих часто позволял себе довольно дерзкие выпады против своего недруга. У Суфьяна был огромный нос, и юноша, входя к нему, всегда приветствовал его словами: «Мир вам обоим» (то есть тебе и твоему носу). Однажды Суфьян, желая похвастаться своей сдержанностью и воспитанностью, сказал: «Никогда не раскаивался я в том, что смолчал», на что Рузбих незамедлительно ответил: «Немота была бы лучшим твоим украшением, так зачем же раскаиваться?»

В 743 году был назначен новый правитель Ирака и Ирана, сместивший почти всех старых наместников и правителей городов и провинций, как это было принято. Прежний правитель Шапура был также смещен, а на его место назначили уже известного нам Суфьяна ибн Муавию. Однако правитель не желал уступать город без боя и прибег к помощи окрестных курдов. Рузбих ибн аль-Мукаффа был его гонцом к курдам и употребил все свое красноречие и влияние, чтобы склонить горожан и кочевников на сторону своего покровителя. Произошло сражение между сторонниками Суфьяна и аль-Масиха, где Суфьян потерпел поражение и был тяжело ранен. Оправившись от раны, он поклялся, что жестоко отомстит Ибн аль-Мукаффе, которого считал своим злейшим врагом.

Рузбих прожил в Шапуре еще четыре года. В 747 году аль-Масиха изгнали из Шапура, а Ибн аль-Мукаффу, который к тому времени прославился как искусный и красноречивый секретарь (ему было тогда 23 года), переманил к себе правитель области Керман, где Рузбих оставался до 748 г.

В этом году началось грозное для правящей династии Омейядов народное восстание, возглавляемое Абу Муслимом аль-Хорасани, которое охватило вначале Хорасан — восточную область Ирана, а затем перекинулось в Ирак. Восставшие крестьяне и горожане провозглашали незаконность власти «безбожников и узурпаторов Омейядов», врагов Алидов — потомков Али, зятя пророка, — единственных «законных имамов» (то есть халифов), людей набожных и справедливых, подобных Али — ближайшему родственнику и законному преемнику Мухаммада. Приверженцев Али называли шиитами от слов «шиат Али» (букв. «партия Али»).

Правитель Кермана бежал от войск Абу Муслима, и мятежники захватили Керман, а затем весь Иран и Ирак, и наконец в 750 году сторонники Абу Муслима убили последнего омейядского халифа и престол достался Абдаллаху ас-Саффаху из рода Аббасидов, который приказал уничтожить весь род Омейядов, так что спастись удалось лишь немногим из них.

Рузбих, уже искушенный и опытный государственный деятель, принимавший участие и в сражениях, и в различных интригах сильных мира сего, сразу же примкнул к шиитам, которых поддерживало большинство иранской знати. Ведь Али, невестка которого была дочерью последнего сасанидского царя Йездигерда, традиционно считался покровителем персов. Рузбих становится секретарем поочередно у трех братьев Алидов — Исы, правителя Кермана, Исмаила, наместника южноиранского города Ахваз, и Сулеймана, получившего пост наместника и правителя Басры в 751 году.

С приходом к власти новой династии — Аббасидов, которые сумели оттеснить потомков Али, политическая и культурная роль Басры возросла, и этот город фактически стал столицей Халифата: в прежней столице — Дамаске — осталось слишком много сторонников Омейядов, Куфа «кишела еретиками», по выражению средневекового хрониста, а Багдад был построен лишь в конце 50-х — начале 60-х годов VIII века при втором аббасидском халифе аль-Мансуре. Басра середины VIII века представляла собой весьма колоритное зрелище: гавань была заполнена судами, так что их мачты напоминали «густую рощу», на улицах слышалась арабская, персидская, греческая речь, в мечетях устраивались диспуты, где представители разных верований защищали свои воззрения, причем в спор вступали не только мусульмане, христиане и иудеи, названные в Коране «людьми Писания», но и зороастрийцы-огнепоклонники, дуалисты-манихеи, сторонники издавна осужденного в Иране учения Маздака, и даже «безбожники-зиндики» (впрочем, «зиндиком» могли назвать всякого, кто был «нетверд в вере»).

В Басре в это время было множество адибов, ученых, поэтов и прозаиков, которые заложили основы арабских гуманитарных наук. Несмотря на отдельные расхождения по вопросам филологии и грамматики и личное соперничество, они были объединены страстной любовью к знаниям и широтой взглядов, и Рузбих нашел среди них множество друзей. Среди басрийских адибов были арабы, персы и греки, христиане, зороастрийцы, мусульмане и манихеи, и всех их ревнители благочестия обвиняли в вольнодумстве и безбожии. Конечно, они не были атеистами, однако истинно набожных мусульман возмущали их «вольные речи», религиозный скептицизм и легкомысленное поведение.

Особенно недовольны были знатные арабы из древних кочевых родов, которых прежде всего возмущало то, что эти «аджамы» (неарабы, то есть «варвары», — так называли прежде всего персов) осмеливались заявлять, что они ни в чем не уступают чистокровным арабам. При этом персы ссылались на отрывок из Корана: «Мы сотворили вас разными народами» (подразумевалось «равными»). От слова «шууб» (народы) получило название идейное течение «шуубийя», представители которого провозглашали всеобщее равенство в исламе и мусульманском государстве. Многие персы, шуубиты, сохраняли свою религию — зороастризм.

В своих сочинениях писатели-шуубиты, высказывая свои взгляды, иногда открыто высмеивали арабов, обвиняя их в дикости, невежестве и необоснованном высокомерии, то завуалированно превозносили мудрость древних персов, иранскую образованность и воспитанность, мощь сасанидского государства и его славную историю. Они пересказывали и переводили на арабский язык «Книги царей» — персидские исторические хроники, легендарные повествования и зерцала.

Шуубитом и еретиком Ибн аль-Мукаффу считали и его покровители, которые настаивали на том, чтобы он отказался от своей старой веры и принял ислам. Его мусульманское имя Абдаллах показательно — так обычно называли новообращенных мусульман. Очевидно, служба у знатных Алидов требовала от Рузбиха приобщения, хотя бы «внешнего», по выражению биографа, к государственной религии. Покровитель Рузбиха Алид Иса потребовал, чтобы, во избежание различных толков, которые могут повредить ему, Рузбих принял ислам и произнес «всенародно» трижды: «Я свидетельствую, что нет бога, кроме Аллаха, и что Мухаммад посланец Аллаха». Накануне этого события Ибн аль-Мукаффа, присутствуя на трапезе у Исы, стал «бормотать» зороастрийские молитвы за едой, как это было принято у огнепоклонников. На замечение Исы, что негоже будущему мусульманину «бормотать, словно язычник», Рузбих ответил: «Я боюсь провести хотя бы одну ночь, не имея никакой веры». В словах этих заметно «религиозное свободомыслие» Ибн аль-Мукаффы, раскрывшееся с полной силой в его переводе «Калилы и Димны».

Рузбих становится мусульманином. Но современники, да и последующие историки сочли его обращение лицемерным. Сам Рузбих иногда подчеркивал свою приверженность вере отцов (может быть, не вполне искреннюю). Так, проходя вместе с несколькими знакомыми адибами, в числе которых были и его враги, мимо зороастрийского храма — «дома огня», он произнес стихи популярного в то время поэта аль-Ахваса:

Все присутствующие отлично поняли намек, и это лишь способствовало тому, что за Ибн аль-Мукаффой утвердилась слава еретика.

Рузбих оставался на посту секретаря правителя Басры, его литературная слава, влияние и богатство все возрастали, друзья превозносили его красоту, образованность, красноречие и щедрость.