Сформирована 15 октября 1935 года в IV Дрезденском военном округе (Саксония) в Хемнице на основе 4-й дивизии рейхсвера. В конце мая 1938 года была переброшена к чехословацкой границе на случай вооружённого конфликта, после Мюнхенского соглашения 1 октября 1938 года заняла Тахов, а чуть позже вошла в Марианске-Лазне. До 15 марта 1939 года располагалась в Праге, после чего ушла в Хомутов.
Польша
1 сентября 1939 года 24-я дивизия под командованием генерал-лейтенанта Фридриха Ольбрихта в составе группы армий «Юг» (8-я армия, 10-й армейский корпус) к северо-востоку от Вроцлава атаковала Лодзь. Воевала на берегах реки Варта, в Ловиче и за Бзуру. После отступления 30-й стрелковой дивизии чуть не попала в польское окружение. 18 сентября переведена в состав 11-го армейского корпуса, вела бои к западу от Варшавы. 22 сентября между Модлином и Варшавой встретилась с другими частями, после капитуляции Польши была расквартирована.
Франция
Зимой 1939/40 года дивизия перебралась в Айфель, охраняя границу около Битбурга. 10 мая 1940 года в составе 12-й армии вступила в бои с противником в Северном Люксембурге и Бельгии, откуда на юг вышла во Францию, перешла Маас и взяла Седан. Несколько дней вела бои за Мон-Дье, а позднее отошла на восток к Седану, откуда устремилась в сторону Нанси. После капитуляции Франции переведена на бельгийское побережье Северного моря на случай вторжения во Францию.
В июне 1941 года дивизия базировалась в городе Томашув-Мазовецкий. 22 июня в 3:30 она в составе 4-го армейского корпуса (группа армий «Юг») перешла советскую границу, начав наступление к северу от Львова в сторону Тернополя, Винницы и Умани. В Умани она участвовала в окружении советских войск. 22 августа 1941 года форсировала Днепр и взяла Черкассы, в сентябре 1941 года вела бои под Киевом (отличилась в битве за деревню Оршица при участии 16-й танковой дивизии). В конце ноября 1941 года переведена в Крым, совершив там 600-километровый марш-бросок.
Во время боёв за Севастополь дивизия состояла в 42-м корпусе11-й армииЭ. фон Манштейна, 17 декабря 1941 года вместе с 22-й, 132-й и 50-й дивизиями атаковала с севера. В июне 1942 года в составе 54-го корпуса предприняла очередную атаку, однако понесла огромные потери. 17 июня 1942 года всё же ей удалось захватить несколько фортов, а затем взять электростанцию спустя несколько дней.
В августе 1942 года перешла в состав группы армий «Север», взяв в сентябре 1942 года Волхов и завязав бои за Синявино. В феврале 1943 года дивизия после прорыва блокады Ленинграда стала отступать, а после полного снятия блокады пустилась в паническое бегство. В феврале 1944 года она отступала через Латвию, принимала участие в боях под Псковом[1], а летом попала в Курляндский котёл, где капитулировала только 9 мая 1945 года. Остатки дивизии были отправлены в Ригу.
Всего дивизия потеряла 8289 человек убитыми, в том числе 6043 на Восточном фронте. 7260 человек значатся пропавшими без вести. 5065 человек было ранено.