СУ-100 была разработана в 1944 году на Уральском Заводе Тяжелого Машиностроения (УЗТМ или Уралмаш) в Свердловске на базе среднего танка Т-34-85. Самоходка являлась прямым развитием предыдущей модели истребителя танков СУ-85 в плане усиления вооружения, бронезащиты и улучшения эксплуатационных качеств. СУ-100 быстро зарекомендовала себя одной из лучших машин Второй Мировой войны среди своего класса. Бронебойный снаряд её 100-мм пушки был способен пробить вертикальный лист брони толщиной 125 мм на расстоянии 2000 м. Наклонную лобовую 85-мм бронеплиту немецкого танка "Пантера" СУ-100 пробивала с расстояния 1500 м. Огневой мощи СУ-100 было достаточно против любого немецкого танка, за что она получила от солдат матерное, но точно отражающее её способности прозвище "П****ц всему".
Разработка самоходки проводилась под руководством Л. И. Горлицкого, ведущего конструктора всей линейки средних советских САУ. Работы начались в феврале 1944 года и уже в следующем месяце был построен "Объект 138" — первый прототип СУ-100. После интенсивных испытаний с различными моделями 100-мм орудий для серийного производства был выбран вариант с пушкой Д-10С. Это орудие было разработано в конструкторском бюро артиллерийского завода № 9 под руководством Ф. Ф. Петрова. После Второй Мировой войны оно устанавливалось на танки типов Т-54 и Т-55, а его улучшенные варианты состояли на вооружении в течении сорока лет после разработки исходной модификации. Корпус СУ-100 также имел существенные улучшения по сравнению с СУ-85. Толщину лобовой брони довели до 75 мм, рабочее место командира сделали в небольшом спонсоне по правому борту машины. Вместе с командирской башенкой это позволило существенно улучшить условия работы командира самоходки. Для лучшей вентиляции боевого отделения самоходки было установлено два вентилятора вместо одного у СУ-85. Ввиду возросшей нагрузки от более тяжёлых пушки и лобовой брони на ходовую часть пришлось усилить подвеску двух первых опорных катков по каждому борту.
Компоновка СУ-100 является стандартной для средней советской САУ времён Великой Отечественной войны. Вооружение, экипаж, боезапас и часть топливных баков расположены в неподвижной броневой рубке с рациональными углами наклона брони в передней части машины. Двигатель и агрегаты трансмиссии расположены в кормовой оконечности. Подвеска типа Кристи, индивидуальная для каждого из пяти опорных катков большого диаметра на борт. Ведущее колесо расположено сзади, ленивец — спереди.
Слабыми местами машины были отсутствие пулемёта, расположение топливных баков в боевом отделении. Кроме того, противотанковые возможности пушки не были до конца использованы в полной мере, так как в 1944-45 гг. был доступен только калиберный бронебойный снаряд. Подкалиберные варианты стали доступны уже после окончания Великой Отечественной войны. Тем не менее, СУ-100 с успехом использовались в боях её завершающего периода. Хорошее действие 100-мм осколочно-фугасного снаряда по небронированным целям позволяло использовать СУ-100 в качестве штурмового орудия. В городских боях СУ-100 чаще использовались именно в таком качестве. По состоянию на июль 1945 года УЗТМ построил 2335 СУ-100.
Машина оставалась на вооружении Советской Армии ещё несколько десятков лет после войны, а её производство в СССР прекратилось в 1947 году. Лицензию на производство СУ-100 приобрела Чехословакия и там выпуск самоходки продолжался до 1950 года. После снятия с вооружения часть машин была переведена в резерв и законсервирована. Небольшое количество СУ-100 на складах Российской Армии существует и в настоящее время.
Много стран-участниц организации Варшавского Договора получили СУ-100 для своих вооружённых сил, они также поставлялись в Египет, Анголу и на Кубу. В этих странах они участвовали в различного рода войнах и вооружённых конфликтах до конца 1970-х годов. По мере поступления более новой техники СУ-100 очень часто перепродавались третьим странам, поэтому армии некоторых африканских государств до сих пор имеют эту самоходку на вооружении.
Благодаря своему долголетию многие бронетанковые музеи мира имеют СУ-100 в своих коллекциях. Значительное число этих самоходок служит в качестве памятников и мемориалов, большинство из которых посвящено Великой Отечественной или Второй Мировой войне. Однако есть и уникальные случаи — например на Кубе сохраняется одна СУ-100, про которую утверждается, что выстрелом из её пушки Фидель Кастро самолично потопил десантное судно контрреволюционеров-"гусанос".