Михаил Сергеевич Иванов родился 15 ноября 1909 года в поселке Боровенка Окуловского района Новгородской области в семье рабочего-железнодорожника. С 15 лет начал трудовую деятельность рабочим в железнодорожном карьере Октябрьской железной дороги.
В 1927 году М.С. Иванов поступил на восточное отделение Ленинградского государственного университета, который окончил в 1931 году. В 1934 году поступил в аспирантуру исторического факультета Ленинградского государственного университета по кафедре новой истории колониальных и зависимых стран. После защиты диссертации в 1937 году М.С. Иванов был оставлен в университете доцентом и заведующим кафедрой, где и работал до октября 1941 года. Одновременно, по совместительству, являлся старшим научным сотрудником Института востоковедения АН СССР, затем был переведен на ту же должность в Ленинградское отделение Института истории АН СССР.
В 1943 году Михаил Сергеевич был командирован корреспондентом ТАСС в Иран, где находился до середины 1947 года. Вернувшись на Родину, вновь работал старшим научным сотрудником Ленинградского отделения Института истории АН СССР, в 1949 году назначен заведующим ЛОИИ.
В 1954 году, после защиты докторской диссертации, М.С. Иванов был назначен деканом и заведующим кафедрой истории стран Ближнего и Среднего Востока Ленинградского госуниверситета. В 1955 году ему было присвоено ученое звание профессора.
Директором МГИМО М.С. Иванов был назначен в ноябре 1955 года. Одновременно руководил кафедрой истории стран Востока. В этот период активизировалась редакционно-издательская деятельность МГИМО, в 1956 году было организовано Издательство Института международных отношений.
27 декабря 1957 года Михаил Сергеевич был освобожден от должности директора МГИМО в связи с переводом на работу в Академию наук СССР. М.С. Иванов работал в Институте этнографии АН СССР – старшим научным сотрудником, заведующим сектором. С сентября 1970 года заведовал кафедрой стран Ближнего и Среднего Востока Института стран Азии и Африки при МГУ им. М.В. Ломоносова.
Скончался Михаил Сергеевич 19 октября 1986 года.