Эллиотт окончил Хэмпширский колледж в Амхерсте, Массачусетс, в 1991 году с дипломом по философии и политологии. «Думаю, я доказал себе, что я могу заниматься чем-то, чем заниматься не хочу, в течение четырёх лет. Вот только мне как раз нравилось то, что я изучал. Тогда это было что-то вроде ‘Это твой единственный шанс поступить в колледж, и тебе стоит им воспользоваться, потому что иначе однажды ты можешь об этом пожалеть’. К тому же, причиной, по которой я вообще подал документы, была моя девушка, и к тому времени, как мы расстались накануне первого дня учёбы, меня уже приняли». Окончив колледж, Эллиотт работал в булочной в Портленде со степенью бакалавра по философии и правовой теории.
В Хэмпшире Эллиотт основал музыкальную группу Heatmiser, которая официально распались в 1995 году, после одного короткого тура в поддержку «Mic City Sons».
Незадолго до распада Heatmiser, Эллиотт начал записывать сольные работы, большей частью акустические альбомы, на взятых в долг четырёхдорожечных кассетных проигрывателях. Его первый релиз, Roman Candle (1994), был, предположительно, сборником демо-записей, не вошедших в работы Heatmiser. Девушка Эллиотта убедила его послать кассету с записями звукозаписывающей компании Cavity Search Records, и они сразу решили выпустить альбом. Песня «Condor Avenue», как выяснилось позже, была записана, когда Эллиотту было всего 17. Главным инструментом, участвовавшим в записи альбома, была акустическая гитара, иногда сопровождавшаяся электрогитарой или маленькой барабанной установкой.
Одноимённый альбом Эллиотта Смита (Elliott Smith) был выпущен компанией Kill Rock Stars; стиль пластинки похож на стиль предыдущей работы Эллиотта, Roman Candle, но заметно более продуманный. В 1996 году кинорежиссёр Джэм Коэн (Jem Cohen) снял короткометражный фильм Lucky Three: an Elliott Smith Portrait. Две песни из этого фильма вошли в альбом Either/Or, очередной релиз, выпущенный компанией Kill Rock Stars в 1997 году, и имевший положительные отзывы.
В альбоме Эллиотт отважился углубиться в использование всё большего количества разнообразных музыкальных инструментов, несколько песен были записаны при помощи бас-гитары, барабанов, клавишных и электрогитары, на всех инструментах Эллиотт Смит играл самостоятельно. Название альбома произошло от названия одноимённой книги датского философа Сёрена Кьеркегора, в которой раскрыты такие темы, как безысходность существования, страх, смерть и Бог.
В 1997 году портлендский приятель Смита, режиссёр Гас Ван Сент, попросил Эллиотта принять участие в записи саундтрека к его фильму, «Умница Уилл Хантинг»». Смит записал для фильма оркестровую версию «Between the Bars» при участии знаменитого композитора Дэнни Элфмана (Danny Elfman). В саундтрек также вошли три ранее записанных трека с альбомов Roman Cadle («No Name #3») и Either/Or («Angeles» и «Say Yes»). Фильм получил признание критики и зрителей, а Эллиотт был номинирован на премию Оскар за песню «Miss Misery». 5 марта 1998 года состоялся дебют Эллиотта на кабельном телевидении — он выступил с акустической версией «Miss Misery» в программе Late Night With Conan O’Brien. Несколько дней спустя Смит в белом костюме исполнял сокращённую версию этой песни на церемонии «Оскар». Но награда досталась Джеймсу Хорнеру и Уиллу Дженнингсу за композицию «My Heart Will Go On» (в исполнении Селин Дион) из кинофильма «Титаник».
В 1998 году Смит записал кавер-версию песни The Beatles «Because» для фильма «Красота по-американски». Несмотря на то, что это была единственная официальная кавер-версия песни The Beatles, записанная Эллиоттом, он часто исполнял композиции знаменитой четвёрки на своих живых концертах, а также в интервью он отмечал что в юности это была одна из его самых любимых групп. Среди них такие песни, как «Blackbird», «Yer Blues», «I Me Mine», «For No One», «Something», «I’m So Tired», «Long, Long, Long», «I’m Only Sleeping».
В 1998 году, после успеха Either/Or и Miss Misery, Эллиотт подписал договор с DreamWorks Records. Примерно в это же время музыкант впал в депрессию. В Северной Каролине он, находясь в сильном наркотическом опьянении, спрыгнул со скалы. Смит приземлился на дерево, которое, хоть и нанесло Эллиотту несколько ушибов, всё же смягчило падение. Позже в том же году Эллиотт выпустил свой первый релиз с DreamWorks Records. Альбом имеет более полное и причудливое звучание, чем предыдущие работы Эллиотта. Однако его знакомый вокал и акустическая гитара, несомненно, присутствуют и на этой пластинке. XO стал самым продаваемым альбомом Эллиотта за всю его карьеру. В течение всего этого периода Эллиотта поддерживала портлендская группа Quasi, состоявшая из бывшего согруппника, бас-гитариста Сэма Кумса (англ. Sam Coomes) и его бывшей жены Джэнет Уэйс (Janet Weiss) на барабанах. Quasi также часто открывали шоу тура, иногда Смит играл на гитаре или выступал в роли бэк-вокала.
В ответ на вопрос, не изменит ли подписание договора с одной из крупнейших фирм звукозаписи творческий настрой Эллиотта, он сказал: ‘… Иногда люди воспринимают крупные звукозаписывающие компании просто как на механизм по производству денег, но в них работают совершенно реальные люди, и многие из них хотят чувствовать, что производят на свет хорошую музыку.’ В другом интервью Эллиотт заявил, что никогда не читал отзывов на свои альбомы, потому что боялся, что это может повредить его творчеству.
Figure 8 вышел в 2000 году, при участии Ротрока, Шнапфа, Брайона и Уоронкера, и был частично записан на студии Abbey Road Studios (где The Beatles обычно записывали свои альбомы) в Англии. Альбом собрал в основном положительные отзывы и достиг 99-го места в рейтинге журнала Billboard 200. Песни были по большей части написаны под влиянием популярной музыки 60-х, например, The Kinks, The Beatles и The Zombies. Последовал продолжительный тур в поддержку альбома, Однако к концу турне здоровье и внешнее состояние Эллиотта заметно ухудшились.
В 2001-2002 гг. его выступления стали большой редкостью, в 2002-м он начал лечение от наркотической зависимости, после своего 34-летия он перестал употреблять алкоголь, кофеин, красное мясо, рафинированный сахар. Он начал экспериментировать с различными шумами в музыке, с намерением научиться использовать при записи музыки компьютер – способу, с которым он не был знаком ранее.
Эллиотт умер в возрасте 34 лет от двух ножевых ранений в грудь. Вскрытие не помогло точно установить, были ли ранения нанесены самим музыкантом. Вскоре после его смерти его поклонники превратили стену на Сан-сет бульваре в Лос-Анджелесе, которая изображена на обложке “Figure 8” в мемориал, куда приносят цветы, свечи, бутылки и оставляют «послания» адресованные Смиту в виде надписей.
