Mindless Self Indulgence (сокращенно — MSI) образовались в 1997 году в Нью-Йорке в составе: Джеймс 'Little Jimmy Urine' Юринджер (певец, автор песен), Стив Монтано (известный как Steve, Righ?, гитара), Vanessa Y.T. (бас-гитара) и Дженнифер Данн (она же — Kitty, ударные). Квартет дебютировал с альбомом Tight (все песни которого Юринджер написал на старом Atari PC) и обратил на себя внимание экспрессивными концертными выступлениями, получив приглашения в туры Rammstein и Insane Clown Posse. Тексты группы напомнили критикам Beastie Boys, в музыкальном отношении MSI поначалу отнесли к последователям Korn.

Затем вышел альбом Frankenstein Girls Will Seem Strangely Sexy (2000): о Джимми Юрине теперь заговорили как о талантливом панк-авторе; в связи с имиджем и мировоззрением группы (в частности, идеей «ультра-секса» и сконцентрированности на «низшей из чакр») отмечались влияния Боуи и Sigue Sigue Sputnik. Пресса отмечала крайне провокационный характер концертных выступлений MSI, в ходе которых группа неизменно отвечала на любое оскорбление или брошенный предмет из зала, вызывая аудиторию на открытую конфронтацию.

После выхода альбома Alienating Our Audience: Live (2002) Ванессу заменила бас-гитаристка Лин-Зи (Lyn-Z). You’ll Rebel to Anything (2005) вышел на индистриал-лейбле Metropolis Records в трёх версиях, отличавшихся как содержанием, так и оформлением.

Четвертый альбом If получил высокие оценки ведущих музыкальных изданий. Синглы группы неоднократно возглавляли списки Hot Singles Sales и Dance Singles Sales журнала Billboard. MSI стали завсегдатаями светской рок-хроники после того, как бас-гитаристка (а также художница и дизайнер) Лин-Зи в 2007 году вышла за Джерарада Уэя из My Chemical Romance.