1898년 독립협회(獨立協會)에 가입하고, 동회가 만민공동회(萬民共同會)로 발전함에 따라 평양에서 관서지부(關西支部)를 발기하고 쾌재정(快哉亭)에서 만민공동회를 개최하여 국민의 자각(自覺)을 호소하였다.
1899년에는 강서군 동진면 암화리에 점진학교(漸進學校)를 설립하고 황무지 개간사업도 병행해서 추진하였다.
1902년 미국으로 건너 가 샌프란시스코에서 한인친목회(韓人親睦會)를 조직하고 회장에 선출되었다. 1905년에는 한인친목회를 발전시켜 공립협회(共立協會)를 창립하여 상부상조 조국광복(相扶相助 祖國光復)을 목적으로 초대 회장에 취임하여 공립신보(共立新報)를 발행하는 등 활동하였다.
1907년 고국의 실정을 알아보기 위하여 귀국하였으며, 양기탁(梁起鐸)·안태국(安泰國)·이승훈(李昇薰) 등과 비밀결사 신민회(新民會)를 조직한 뒤 평양에 대성학교(大成學校)를 설립하는 한편 각 주요도시에 태극서관(太極書館)을 두고, 자기회사(磁器會社)를 차리는 등 정치·교육·문화의 여러 방면에 걸친 애국계몽운동을 전개하였다.
1909년에는 청년학우회를 창설하여 청년운동을 전개하였는데, 안중근(安重根) 의거에 관련되었다는 혐의로 용산헌병대에 수개월간 수감되기도 하였다.
1910년 일제 통감부(統監府)의 도산내각(島山內閣) 조직 권유를 일축하고, 거국가(去國歌)를 남긴 후 중국으로 망명하였다.
다음 해 북만(北滿)에서 무관학교를 세우려고 하였으나 뜻대로 되지 않자 다시 미국으로 돌아가, 1912년 샌프란시스코에서 대한인국민회(korean national association)중앙총회를 조직하고 초대 회장에 취임하였다. 그리고 흥사단(興士團) 조직에 착수하여 무실역행·건전인격·단결훈련·국민개업(務實力行 健全人格 團結訓練 國民皆業) 등 정신개조(精神改造)를 목표로 한 민족계몽운동을 전개하는 한편, 공립신문을 신한민보(新韓民報)로 표제를 바꾸어 발행하였다.
1919년 2월에는 샌프란시스코에서 국민대회를 개최하고 파리강화회의에 국민회 대표를 파견할 계획을 추진하다가, 국내에서 3·1독립운동이 일어나고 상해에서 대한민국 임시정부가 수립되어 그를 내무총장에 선임하자 상해로 건너갔다. 임시정부의 내무총장 겸 국무총리 서리에 취임한 그는 연통제(聯通制) 실시, 독립신문 발간 등 독립운동의 방략을 지도하였다. 동년 7월 2일에는 임시사료편찬회를 구성하고 그 총재가 되어 한일관계사료(韓日關係史料) 전4권을 편찬, 발행하기도 하였다. 또한 임시정부의 재정이 어려워지자 임시정부후원회를 조직하여 해외 교포들로부터 군자금을 출연 받아 임정을 꾸려 나가도록 하였다. 같은 해 임정의 내각 개편으로 국무위원 노동부 총판(總辦)에 임명되었다.
1920년에는 흥사단 원동위원부(遠東委員部)를 설치하고, 대(對)미국의원시찰단주비위원장이 되어 북경에서 한국의 독립을 호소하기도 하였다. 동년 8월에는 지방선전총판(地方宣傳總辦)이 되어 민족의 단합을 호소하는 격문을 만주 등지에 배포하였다. 또한 임시정부의 세력 통일을 위하여 노력하다가 실효를 거두지 못하자 국무위원을 인책 사임하고 국민대표회의 소집을 추진하였다.
1921년에 서울에 수양동맹회(修養同盟會), 평양에 동우구락부(同友俱樂部)를 설립하도록 하였으며, 뒤에 이 두 단체가 합하여 수양동우회(修養同友會)가 되었다.
1923년 상해에서 국민대표회의가 열리자 그가 부의장에 선임되었으나, 이 회의도 임시정부의 개조파(改造派)와 창조파(創造派)로 대립되어 실패하자, 북만에 독립운동기지인 이상촌(理想村) 건립을 추진하기로 하였다. 그의 독립운동 방략은 군사·외교·재정·문화·식산·통일의 6대운동으로써 후에 민족의 통일단합을 위한 대독립당(大獨立黨)을 결성하여 이를 실행할 것을 시도하기도 하였다.
1924년에는 남경(南京)에서 동명학원(東明學院)을 설립하여 실력배양운동(實力培養運動)의 기초를 다졌다. 이 해에 그는 군자금 확보를 위하여 미국으로 건너갔다가 1926년에 돌아왔다. 중국에 돌아온 그는 만주 일대를 답사하며 이상촌 후보지를 물색하고, 민족유일당(民族唯一黨) 조직, 농민호조사(農民互助社) 발기 등 구체적인 사업계획을 추진하였으나, 삼시협정(三矢協定)이 체결되어 독립군의 주요 간부인 김동삼(金東三)·박창식(朴昌植) 등이 일경에게 체포된 뒤에, 김좌진(金佐鎭)·정신(鄭信) 등이 암살되는 수난이 계속되고, 이어서 만주사변이 일어나자 이상촌 건설은 실현 불가능하게 되었다. 상해로 되돌아 온 그는 1930년에 협동상조(協同相助), 소비합작(消費合作), 신용생산(信用生産) 등으로 생활역량(生活力量)을 넓히기 위한 동인호조사(同人互助社)를 조직하여 재상해한인(在上海韓人)의 합심 협력을 계획하였다.
1931년 1월에는 흥사단 제17회 원동대회를 주재하여 대회장으로 선출되었으며, 흥사단보(興士團報)를 발행하는 등 민족의 부흥과 발전을 위한 국민의 자질혁신(資質革新)과 청년 인재 양성 등 흥사단의 이념 구현에 주력하였다. 그리고 애국부인회(愛國婦人會)가 흥사단의 취지에 따라 군자금 모집 계획을 세우자 설립목적이 동일한 동인호조사와 합병하여 공평사(公平社)로 개칭하고, 그 이사장에 취임하여 생활 역량을 증강시키기 위한 소비, 신용, 생산 등의 합작운동(合作運動)을 추진하였다. 같은 해 만보산(萬寶山)사건으로 한중인(韓中人) 충돌 사건이 일어나고 중국민의 한인에 대한 감정이 악화되자 병인의용대(丙寅義勇隊), 노병회(勞兵會), 교민단(僑民團), 학우회(學友會), 여자청년동맹, 애국부인회, 청년동맹 등의 각 단체를 연합하여 상해한인단체연합회(上海韓人團體聯合會)를 조직하게 되자 그는 흥사단 대표로 이에 참가하여 중국과 공동으로 항일투쟁을 강화하였다.
1931년 10월에는 이시영(李始榮)·김사집(金思潗)·김 철(金徹)과 함께 교민단 심판원(僑民團 審判員)으로 활동하였다. 1932년 4월 29일 윤봉길의 홍구공원 의거에 따라 일경은 프랑스조계 경찰의 협조로 독립운동가의 일제 검거를 실시하였다. 그는 이러한 정보를 알고서도 어린 소년과의 약속을 지키기 위해서 상해 하비로(霞飛路)에 있는 이유필(李裕弼)의 집을 방문하였다가 잠복하고 있던 일경에게 체포되었다. 본국으로 압송된 그는 동년 12월 19일 경성지방법원에서 징역 4년형을 받았다.
""앞으로도 독립운동을 할 작정인가·"" 하는 물음에 그는
""나는 밥을 먹어도, 잠을 자도 민족을 위해 먹고 잤으니, 앞으로 민족을 위해 일하고자 함은 변함이 없다."" 고 기개를 꺾이지 않았다.
1935년 2월 대전감옥에서 출옥한 그는 일경의 감시를 받으면서도 지방을 순회하며 계몽 강연을 하였다. 그후, 평남 대보산(大寶山)에 은거하여 이상촌 건설을 계획하였으나 1937년 6월 수양동우회(同友會) 관계로 다시 일경에 체포되어 옥살이를 하던 중 중병(重病)이 들어 동년 12월에 보석으로 출옥하였으나 건강을 회복하지 못하고 이듬해 3월에 서거하였다.
