Група була сформована в 1969 році братами Шулманамі - Дереком (р. 11 лютого 1947, Глазго, Шотландія; вокал, гітара, бас), Реєм (р. 3 грудня 1949, Портсмут, Англія; вокал, бас, скрипка) та Філом (р . 27 серпня 1937, Глазго, Шотландія; саксофон) на уламках їх попередньої команди "Simon Dupree And The Big Sound". Склад "Gentle Giant" був укомплектований Керрі Міннером (р.
2 січня 1948, Шафтсбурі, Англія; клавішні, вокал), Гері Гріном (р. 20 листопада 1950, Лондон, Англія; гітара, вокал) та Мартіном Смітом (ударні). Банда відійшла від поп-соул стилю своєї попередниці і зробила ухил у прогресив-рок, чимось нагадуючи "Yes" і "King Crimson".
У 1970 році "Gentle giant" уклали контракт з відомою фірмою "Vertigo Records" і записали дебютний альбом з продюсером Тоні Вісконті, який брав участь і в наступних їх релізах.
На диску звучала суміш хард-року і класики із застосуванням складних акордів, що вказує на пошуки новизни в музиці. Хоча альбом вважався претензійною багатьма критиками, він все-таки представляв індивідуальність "Gentle giant". Після виходу другого диска "Acquiring The Taste" з групи пішов Сміт. Його змінив Малколм Мортімор, які брали участь в записі "Three Friends". Незабаром він потрапив в аварію на мотоциклі і був змушений теж покинути склад. Джон "Пагвош" Уезерс (р. 2 лютого 1947, Кармартхен, Уельс), колишній учасник "Eyes Of Blue", "Graham Bond" і "Piblokto!" приєднався до команди перед записом "Octopus", найбільш відомого альбому "Gentle giant". Однак, супутній тур завершилася виходом Філа, що вирішив зав'язати з музичним бізнесом.
Група уклала новий контракт з фірмою "WWA", але зіткнулася з проблемами в Америці, коли диск "In A Glass House" там порахували занадто некомерційним для випуску.
Альбом "The Power And The Glory" був менш бентежить і в свою чергу позначив перехід групи на "Chrysalis Records". Наступний реліз "Free Hand" користувався великим попитом у Великобританії, але в 1976 році на "Interview" група знову повернулася до експериментального стилю більш ранніх випусків. Концертний двійник "Playing The Fool" вийшов непоганим, але наступні альбоми були невдалими. Останньою спробою відновити колишню славу став диск "Civilian", але догляд Міннера, колишнього на той час музичним директором групи, позначав її повний занепад. У 1980 році "Gentle giant" розвалився, і деякі його колишні члени зайнялися сольною кар'єрою.
Рей Шулман став досить відомим продюсером, що працюють з різними музикантами такими як "Sugarcubes", "Sundays" і Яном Маккаллоф. Його брат Дерек перебрався до Нью-Йорк, і став директором "A & R" на "PolyGram Records".