Группа была основана в середине 80-х в Огайо, США названный Purgatory. Изначальный персонал группы был: гитаристы Джон Шаффер и Билл Оуэн, вокалист Джин Адам, басист Дэйв Эйбелл и ударник Грег Сеймур. Через какое-то время группа была вынуждена сменить имя, обнаружив, что существует одноименный коллектив. Поначалу Iced Earth ярко горели стилистикой фильмов ужасов, выступая в сценических костюмах, однако вскоре перестали с эпатажем.

Вскорости после записи первого, одноимённого альбома, из группы был снят её 1-й вокалист Адам, у которого от курения садился голос, после того как Джин отказался поправить положение и брать уроки вокала. Новым исполнителем был Джон Грили, с которым группа записала альбом «Night of the Stormrider». Однако во время тура по Европе отношения с новым вокалистом не заладились: Грили пытался взять себе огромную часть прибыли, помимо того, был антисемитом.
Его сменил Мэтт Барлоу (экс-Cauldron), ставший верным помощником Iced Earth. С Мэттом группа внесла большую участь своих альбомов, в том количестве концептуальные «Dark Saga» — по комиксам о Спауне, и «Horror Show» — по причинам фильмов и литературы ужасов. «Horror Show», помимо прочего, в 2001 году был лидером продаж в Греции. Помимо того, ранние песни были переписаны с новым вокалистом и выпущены на сборнике «Days of Purgatory». В 1998 году к группе вошел молодой гитарист Ларри Тарновски, дебютировавший на альбоме «Something Wicked This Way Comes» (название альбома — цитата из «Макбета» Шекспира). Постоянным ударником, после многих замен, был Ричард Кристи.
В 2006 году ансамбль группы почти совсем обновился. В группу пришли гитарист Тим Миллс и басист Джеймс Уоллас, вернулся ударник Брент Смедли. В 2007 году Уоллас ушёл из группы по домашним обстоятельствам, его место занял Деннис Хейс. Группа собирается пропустить два альбома, продолжающих «Something Wicked This Way Comes». Первая партия новой научно-фантастической дилогии концептуальных альбомов, Framing Armageddon, вышла в 2007 году. Сингл Ten Thousand Strong предварял альбом, на одноимённую песня был взят начуно-фантастический клип с использованием компьютерной графики.

В конце 2007 года группа пережила очередную перетряску всего персонала. Мэтт Барлоу обьявил о своем возвращении на место Тима Оуэнса, Джон Шаффер прокомментировал это как «теперь Iced Earth по-настоящему вернулись». Также из группы был снят басист Деннис Хейс, его место занял Фредди Видалес.