Основание музея стало возможным как раз благодаря финансовой помощи крупных промышленников и жителей города — Хинмана Б. Харлбата, Джона Хантингтона и Горация Келли, завещавших деньги специально для этого художественного учреждения.

Музейный комплекс, открывший свои двери для публики 6 июня 1916, находится в Университетском районе. Его постройка обошлась в сумму $ 1,25 млн, было возведено здание из белого мрамора в неоклассическом стиле с колоннами, фронтоном и масштабной лестницей, а также разбит живописный парк на 75 акров (300 000 м²).

Зеленая зона, в которой сейчас располагается музей, ранее находилась в частной собственности. Филантроп Джефта Уэйд II пожертвовал свои земли городу, часть из них была использована под строительство музея и прилегающей к нему территории. Сегодня этот парк со многими прекрасными скульптурами вокруг здания носит имя благотворителя — Уэйд-парк. Здесь можно увидеть оригинальные работы: «Фонтан вод» (1927) Честера Бича, памятник участнику американской войны за независимость, польскому герою Тадеушу Костюшко, бронзовые солнечные часы Фрэнка Жиру «Ночь переходит в день», недалеко от входа в парк установлено изваяние, изображающее Оливера Хазарда Перри — морского офицера, героя сражения на реке Эри, произошедшего в начале XIX века.

Однако внимание зрителей притягивает знаменитая скульптура «Мыслитель» Огюста Родена, располагающаяся на парадной лестнице музея. У нее уникальная и беспокойная история. Одна из двадцати оригинальных отливок французского мастера, работа благополучно существовала в Кливленде до 1970, когда была взорвана одной из радикальных американских группировок левого толка. Акт вандализма серьезно повредил постамент и ноги «Мыслителя», но в то же время скульптура неожиданно приобрела черты иного характера — как будто к созданию шедевра подключился Сальвадор Дали с его текучими и одновременно разорванными формами. После непродолжительных дискуссий руководство музея решило оставить статую в новом виде и не предпринимать попыток восстановить ее первоначальное состояние.

Фредерик Аллен Уайтинг был назначен первым директором музея, он рассматривал учреждение, прежде всего, как учебное заведение. Уайтинг придумал и впервые провел в 1919 «Ежегодную выставку художников и мастеров Кливленда», это мероприятие проходит до сих пор и продолжает демонстрировать работы местных умельцев.

Щедрые денежные пожертвования музею, а также в виде художественных произведений от коллекционеров способствовали увеличению количества предметов искусства в экспозиции и фондах. Вторая мировая война внесла свои коррективы: состоятельные американцы покупали в разрушенной Европе ставшие доступными первоклассные картины и предметы декоративно-прикладного искусства в свои собрания, многие из которых затем были переданы в музей Кливленда, что способствовало его процветанию. Тогда же были приобретены значимые произведения, укреплявшие международные позиции и репутацию одной из лучших американских коллекций. В 1940-х и 1950-х финансовые возможности музея резко возросли благодаря крупным завещаниям имущества, значительным наследствам от финансовых фондов, собрание увеличилось в два раза. Была создана азиатская коллекция — одна из самых значительных и больших в мире, куплены произведения средневекового искусства.

Музей несколько раз расширялся, в 1971 по проекту венгерского архитектора Марселя Брейера было добавлено северное крыло. В 2005 утвердили проект реконструкции комплекса стоимостью $ 350 млн. Цель — поддержать престиж и высокий научный уровень музея, не дав ему стать обычным провинциальным собранием произведений искусства. При этом из ансамбля построек остался только основной корпус 1916-го, восстановлена первоначальная симметрия по оси север — юг, подчеркнуто главенство неоклассического фасада здания начала XX века.

Коллекция кливлендского Музея искусств на сегодняшний день насчитывает более 65 000 произведений со всего мира. Здесь хранятся выдающиеся живописные полотна Сандро Боттичелли, Микеланджело Меризи да Караваджо, Эль Греко, Николя Пуссена, Питера Пауля Рубенса, Франса Халса, Герарда Давида, Уильяма Тернера, Сальвадора Дали, Огюста Ренуара, Поля Гогена, Камиля Коро, Клода Моне, Винсента Ван Гога, Пабло Пикассо, Анри Матисса. Активно приобретается и искусство второй половины XX века, в собрание добавилось несколько важных произведений художников Энди Уорхола, Джексона Поллока, Христо Явашева, Франческо Клементе, Роберта Мангольда, Марка Танси.

Коллекция музея представлена в отделах китайского, индийского, африканского, исламского искусства, рисунка, гравюры, европейской живописи и скульптуры, современного европейского искусства, искусства Древней Америки и Океании, Греции и Рима, американской живописи и скульптуры и современного американского искусства.

В дополнение к обширному художественному собранию в музее располагается одна из крупнейших библиотек по искусству в США. Еще в 1913 было подготовлено 10 000 томов, включающих фотографии и архивные материалы. На сегодняшний день библиотека насчитывает 431 000 томов и 500 000 оцифрованных слайдов.