Тоді в репетиційному залі зібралися Айнхорн, Тойфель, Райнер, Томас, Детлеф Малер і Ді Люттер. У результаті сесій на світ з'явилася пісня "Ai Vis Lo Lop". Після декількох перетасовок складу в ансамблі з'явилися Флекс і Доктор Пімонт, проект набув назву "In Extremo", і в 1996 році почалися офіційні репетиції.
Паралельно з записом першого акустичного CD в берлінській студії був підготовлений максі-сингл "Der Galgan". Його копії були розіслані різним зацікавленим особам, але звідусіль приходив відмову. З концертами теж був напряг, і заявок на цю справу було замало. Групі пощастило, коли вокаліст "Knorkator" Стумпен запросив її в "Franzklub", де збиралися різні нетрадиційні команди. Концерти "In Extremo" в цьому клубі закінчилися хвалебною статтею у "Rock Hard".
Журналістів привернула не тільки музика "In Extremo", але і їх сценічний образ, коли учасники колективу одягалися в старовинні наряди і витворяли різні витівки подібно середньовічним бродячим артистам. Ще одним позитивним моментом тих шоу стала поява в колективі талановитого музиканта і шоумена Жовтого Пфайффер. В кінці 1997 року на виступі в Лейпцигу групу примітила представниця берлінського лейбла "Veilklang" Доро Петерс, що запропонувала свої послуги в якості менеджера. Навесні під її керівництвом 1998-го був записаний ще один акустичний CD, "Hameln". Ця платівка знову розійшлася в основному по редакціях журналів, і один з її примірників опинився в "Rock Hard".
"RH" написав, що дуже щастить тому лейблу, хто встигне укласти контракт з "In Extremo". Спритнішим всіх виявився "Stars In The Dark", через декілька днів загнав музикантів знову в студію, щоб ті попрацювали над першим "нормальним" альбомом. Записаний всього за два тижні "Weckt Die Toten!" мав шалений успіх, що змусило заметушитися і мажорні лейбли. У результаті групу швиденько перекупив "Megalux / Mercury".
За цим послідувало німецьке турне, протягом якого був записаний концертний альбом "Die Verruckten Sind In Der Stadt", що вийшов, правда, обмеженим накладом. "In Extremo" продовжили кувати собі успіх, викинувши на прилавки "Verehrt und Angespien", що зайняв 11-у сходинку національних німецьких чартів. Промоушен альбому влаштували по всій Європі, де команда успішно гастролювала. Крім того, музиканти взяли участь у різних фестивалях, таких як "Dynamo Open Air", "Roskilde", "Bizarre", "Rock Am Ring", "Rock Im Park", "Southside", "Hurricane". На наступний рік "In Extremo" випустили сингл "Vollmond", знову довгий час їздили по Європі і навіть знайшли час змотатися за океан, щоб показати себе в Мексиці та Штатах. У 2001-му група випустила в світ новий дивовижний альбом "Sunder Ohne Zugel".
Ця платівка вийшла більш "електричної", ніж попередні релізи, але гітари все-таки не змогли затьмарити прекрасне звучання Лютень, флейт, волинок і арф. Тексти ж, як і на попередніх дисках, були написані на латині, древнегерманском, древнеисландском і старофранцузском мовами. В кінці 2002 року "In Extremo" знову порадували своїх шанувальників, цього разу концертним альбомом "Live", які вийшли як в CD, так і в DVD-варіанті.