평안남도 숙천(肅川)에서 태어났다.
1896년 독립협회(獨立協會)에 가입하고, 1898년 11월의 만민공동회(萬民共同會) 때에는 간부급으로 활동하다가 그해 연말 독립협회가 해산될 때에는 한 때 체포되기도 하였다. 1902년 이상재(李商在) 민영환(閔泳煥) 등이 중심이 되어 개혁당(改革黨)운동을 추진하자 이에 가담하였다. 그후 일본육군사관학교에 유학하여 대한제국 육군의 장교가 되었다.
1905년 11월 일제가 무력으로 고종과 대신들을 위협하여 「을사조약」을 강제 체결해서 국권을 박탈하자, 군인직을 사임하고 애국계몽운동에 종사하였다. 1906년 10월에 박은식(朴殷植) 정운복(鄭雲復) 김명준(金明濬) 등 다수의 동지들과 함께 서우학회(西友學會)를 창립하여 애국계몽운동을 전개하는데 주동적 역할을 했으며, 1908년 1월 서우학회와 한북흥학회(漢北興學會)가 통합하여 서북학회(西北學會)를 창립하는 데에도 주동적인 역할을 하였다. 또한 서북협성학교(西北協成學校：후에 五星學校로 개명)를 설립하여 교육구국운동에도 종사하였다.
1907년 4월 양기탁(梁起鐸) 안창호(安昌浩) 전덕기(全德基) 이동휘(李東輝) 이동녕(李東寧) 유동열(柳東說) 등과 함께 창립위원이 되어 국권회복을 위한 비밀 결사인 신민회(新民會)를 창건하였다. 1909년 10월 안중근(安重根)의 이등박문(伊藤博文) 포살사건 때에는 안중근과의 긴밀한 관계로 일제 헌병대에 구속되어 3개월간 가혹한 옥고를 겪었다. 신민회가 국외에 무관학교를 세우고 독립군기지를 창설할 목적으로 간부의 일부를 망명시킬 때 여기에 선발되어 1910년 4월 안창호 유동열 신채호(申采浩) 김희선(金羲善) 이종호(李鍾浩) 등 동지들과 함께 노령으로 망명하였다. 밀산에서 학교를 설립하여 애국교육과 군사교육을 시키기도 하고, 노령에서 이 강(李剛)과 함께 『정교보(正敎報)』를 발행하여 언론을 통한 독립운동과 계몽사업을 하다가 만주 길림성 목릉현(穆陵縣)에서 서거하였다.
정부에서는 고인의 공훈을 기리어 1962년에 건국훈장 독립장을 추서하였다.