충청북도 진천(鎭川)군 덕산(德山)면 산척(山尺)리에서 태어났다.

1896년에 성균관 교수 겸 관장에 임명되었다가 사임하고 한성사범학교 교관에 임명되었다. 이 무렵 헐버트(h. b. hulbert)와 친교를 맺어 영어 프랑스어 등 외국어와 신학문을 공부하였다. 1904년 일본인이 전국 황무지개척권을 요구하자 그 침략성과 부당성을 들어 이를 반대하는 상소를 올리었다. 1908년 8월에 보안회(輔安會)의 후신인 대한협동회(大韓協同會)를 조직하여 이상설이 회장에 선임되고 이 준(李儁)이 부회장에 피선되었다. 1905년 11월 일제가 「을사조약」을 강제 체결하여 국권을 빼앗아 가자, 의정부 참찬으로 있던 그는 그 조약이 아직 황제의 인준을 거치지 아니한 사실을 알고, 황제 고종이 종사에 죽을 결심으로 을사5적을 처단하고 을사조약을 파기할 것을 주장하는 상소를 올리었다. 고종이 이를 듣지 아니하자 5차례의 동일한 상소를 올렸다. 11월 30일에는 민영환(閔泳煥)의 순절한 소식을 듣고 종로 거리에 나가 운집한 시민에게 울면서 국권회복운동에 궐기할 것을 촉구하는 연설을 한 다음 자결을 시도했으나 시민들에게 구원되었다. 1906년 4월에 망명하여 국권회복운동을 전개할 결심으로 이동녕(李東寧) 정순만(鄭淳萬) 등과 함께 출국하여 상해와 블라디보스톡을 거쳐 북간도의 용정(龍井)에 들어갔다. 그 곳에서 1906년 8월경에 항일 민족교육의 요람인 서전서숙(瑞甸書塾)을 설립하였다. 이것이 간도 일대의 교육구국운동의 시작이 되었다.

1907년 3월경에 헤이그 밀사로 가라는 칙명이 도착했으므로 서전서숙을 여준(呂準) 등에 맡기고 블라디보스톡으로 갔다. 여기서 4월 20일자 고종의 밀지를 받고 헤이그 밀사의 정사(正使)가 되어 5월 21일 이준과 함께 블라디보스톡을 출발하여 러시아 수도 페테르부르그에 도착하였다. 그곳에서 이범진(李範晋)과 협력하여 러시아 황제에게 고종의 친서를 전하고, 이범진의 아들 이위종(李瑋鍾)과 함께 세 밀사가 네덜란드의 헤이그에 도착하였다. 그러나 일본대표와 영국대표의 방해로 한국밀사들의 만국평화회의 회의장에의 참석은 허락 받지 못하였다. 세 밀사들은 6월 27일에 한국의 독립을 주장하는 공고사(控告詞)를 평화회의의 각국대표에게 보내고 7월 9일에는 이위종이 국제협회에서 세계 언론인들에게 「한국을 위한 호소」라는 연설을 하여 국제여론에 한국의 독립요구를 부각시키었다. 7월 14일에 밀사 중의 하나인 이준이 헤이그에서 순국하였다. 7월 19일부터 두 밀사는 영국 프랑스를 직접 순방하면서 일제의 한국침략을 폭로하고 한국의 독립을 역설하였다. 일제는 이에 놀래어 8월 9일 궐석재판에서 정사(正使)인 이상설에게는 사형, 부사(副使)인 이준과 이위종에게는 종신징역을 선고하였다. 1908년에 미국을 순방하여 공립협회(共立協會)의 대한인국민회(大韓人國民會)로의 확대 개편을 참관하고 1909년에 정재관(鄭在寬)과 함께 블라디보스톡에 돌아왔다. 1910년 6월에 이범윤(李範允) 이남기(李南基) 등과 함께 연해주 방면에 모인 의병을 규합하여 13도의군(十三道義軍)을 편성하고 도총재에 유인석(柳麟錫)을 추대하였다. 1910년 8월 29일 일제가 조국을 병탄하자 연해주와 간도 일대의 교포들을 규합하여 성명회(聲明會)를 조직, 일제의 병탄에 반대운동을 전개하고, 미국 러시아 중국 등 열강에게 일제의 침략을 규탄하고 한국민족의 독립결의를 밝히는 선언서를 보내었다. 이상설이 짓고 유인석 이하 8,624명에 달하는 독립운동가의 서명이 붙은 이 선언서에서, 「우리는 '대한국'의 이름을 간직하고 '대한국민인(大韓國民人)'이란 지위를 결코 잃지 않을 것을 결정한 것이다. 우리의 과업이 아무리 어려운 것이라 할지라도 우리는 광복과 국권회복에 기필코 도달할 때까지 손에 무기를 들고 일본과 투쟁하기로 한 것이다. 장차 어떠한 일이 일어나더라도 진정한 한국국민은 자신의 자유와 국가의 광복을 위해 죽을 각오가 되어 있다」고 조국의 독립의지를 표명하였다. 일제는 1910년 9월 11일에 러시아당국과 교섭을 벌여 이상설을 비롯해서 이범윤 등 성명회 간부 수십 명을 체포케 했다. 이상설은 러시아당국에 의하여 니콜리스크로 추방되었다가 이듬해에야 블라디보스톡으로 돌아왔다. 1911년 12월에 블라디보스톡에서 김학만(金學萬) 이종호(李鍾浩) 정재관 최재형(崔在亨) 등과 함께 권업회(勸業會)를 조직하고 그 기관지로 『권업신문(勸業新聞)』을 발행하여 교민의 권익을 옹호하고 교민들에게 독립사상을 고취하였다. 그는 권업회의 회장, 『권업신문』의 주간을 맡기도 하였다. 1916년에 중병에 걸려 니콜리스크에서 투병을 했으나 효과가 없어 48세를 일기로 순국하였다. 그는 임종을 지킨 동지들에게 「동지들은 합세하여 조국광복을 기필코 이룩하라. 나는 조국광복을 이루지 못하고 이 세상을 떠나니 어찌 고혼인들 조국에 돌아갈 수 있으랴. 내 몸과 유품은 모두 불태우고 그 재도 바다에 날린 후 제사도 지내지 말라」는 유언을 남기었다. 그의 유언이 지켜져서 유해는 아무르강가에서 화장되고, 생전에 남긴 그의 저작들도 모두 거두어 불태워져서 그의 공훈에 비해 남아 있는 자료가 거의 없다.

정부에서는 고인의 공훈을 기리어 1962년에 건국훈장 대통령장을 추서하였다.