삼수(三水)·갑산(甲山)·북청(北靑) 일대에서 포수생활을 하다가 1895년 일제에 의하여 명성황후(明成皇后)가 시해되자 후창(厚昌)에서 의병을 일으켰다.
1907년말에는 다시 함경남도 갑산(甲山)등지에서 차도선(車道善)과 함께 의병을 일으켜 그 부장(部長)이 되어 갑산(甲山)·산수(山水)·북청(北靑) 등지에서 친일단체인 일진회(一進會)의 회원을 주살하고, 우편물을 탈취하며, 전선을 절단하는 등 활동을 하였으며 여러차례 일군과 전투를 벌였다. 1908년 5월 차도선이 일군의 포로가 된 뒤에는 5백여명의 부하를 지휘하여 귀순을 권유하는 일경 10여명을 사살하는 등 계속 활동하다가 북청수비대(北靑守備隊)의 병력이 점차 증강됨에 부득이 노령(露領)으로 망명하였다. 망명후에는 이진룡(李鎭龍)·조맹선(趙孟善)·윤세복(尹世復)을 비롯하여 일군으로부터 탈출해 온 차도선(車道善) 등과 함께 장백(長白)·무송(撫松) 등지에서 포수단(砲手團)을 조직, 일제와의 항쟁을 계속하였으며, 1911년 3월에는 부장 박영신(朴永信)을 국내에 진입시켜 무산(武山) 등지에서 일군과 교전하기도 하였다. 1919년 3·1독립운동 후에는 북간도에서 의병(義兵)출신과 간도 및 노령의 동포들을 중심으로 한 대한독립군을 창설하였다. 동년 8월에는 압록강을 건너 함경남도 혜산진(惠山鎭)에 진공하여 일본군수비대를 습격하였으며, 동년 9월에는 이범윤(李範允)과 함께 1,200여명의 독립군을 안도현 이도구(安圖縣二道溝) 방면에 집결시켰다가, 이어서 10월에 국내로 진공하여 평북 강계(江界)와 만포진(滿浦鎭)을 습격 점령하였다. 이어서 자성군(慈城郡)으로 진출하여 일군 70여명을 사살하는 전과를 올리고 무사히 본부로 귀환하였다. 이 소식을 들은 임시정부에서는 당시 평북의 강변8군교통사무국의 참사(參事) 오동진(吳東振)과 김응식(金應植)에게 출장을 명하여 사실을 조사하게 하였으며, 일군은 국경지방의 병력을 더욱 증강하여 삼엄한 경계를 하였다. 그후 그는 최진동(崔振東)의 군무도독부와 연합하여 두만강 연안의 회령(會寧)·종성(鍾城)·온성(穩城) 지방으로 계속적인 진공작전을 전개하였다.
이러한 국내진입작전은 1920년 3월까지 여러차례에 걸쳐 계속되었으며, 적측을 당황하게 하고 국내 민심을 크게 고무시켰다. 1920년 3월에 그는 병력을 안도현에서 왕청현(汪淸縣)으로 이동시켰으며 7문의 기관총, 2백여정의 권총, 7백여정의 소총을 노령으로부터 들여왔다. 그리고 동년 6월까지 수시로 온성·회령·경원 등을 습격하여 적을 혼란에 빠뜨리게 되자, 일군은 남양(南陽)수비대 및 19사단을 만주에 파견하여 중국 영토안에서 독립군을 탄압할 계획을 세웠다. 이에 그는 최진동(崔振東)과 함께 독립군부대를 지휘하여 두만강 대안의 봉오동(鳳梧洞)에서 적의 대부대를 크게 무찔렀으니 이것이 유명한 봉오동전투이다. 또한 같은해 국민회가 독립군 부대들을 재연합하여 동도독군부(東道督軍府)를 창설하였을 때에는 그 사령관에 임명되어 활동하였다. 동년 10월에는 청산리(靑山里)독립전쟁에 제1연대장으로 참가하여 제2연대장 김좌진(金佐鎭), 제3연대장 최진동(崔振東)과 함께 일본군을 크게 격파하는데 일익을 담당하기도 하였다. 청산리독립전쟁에서 패배한 일본군은 소위 독립군 대토벌계획을 세우고 계속적인 추격을 해옴에 따라 대한독립단(大韓獨立團)을 조직하게 되었으며, 그는 김좌진·조성환(曺成煥) 등과 함께 부총재에 선임되어 총재인 서 일(徐一)을 보필하였다. 그후 노령(露領)지역으로 이동한 독립군단은 자유시(自由市)를 근거지로 삼고 소련군과 긴밀한 접촉을 하였다.
그러나 1921년 6월 소련 공산당의 배반으로 독립군은 무장이 해제되고 포로가 되는 등 소위 자유시참변을 겪게 되었다. 1922년 6월 한국혁명군을 뒷받침하기 위하여 고려공산당과 한족공산당이 통합하여 브라고에스첸스크에 고려중앙정청(高麗中央政廳)이 조직되자, 그는 최진동·허 근(許根)·안 무(安武) 등과 함게 고등군인징모위원에 임명되어 활약하였다. 1923년 5월경에는 연해주 이만에서 김좌진·이청천·김규식·안 무 등과 함께 조선독립단 군정서의회를 열고 독립군의 모집, 무기·군복·양식 등의 보급 및 국내진입을 협의하였다. 그러나 이 무렵에는 러시아 혁명정부의 체제가 확고하여짐에 따라 이용가치가 없어진 독립군 간부들은 신변의 위협을 느끼게 되어 다시 여러 방면으로 분산되고 말았다. 그후 그는 연해주지방에서 후진 양성에 주력하다가 조국의 광복도 보지 못한 채 이역에서 별세하였다.
정부에서는 고인의 공훈을 기리기 위하여 1962년에 건국훈장 대통령장을 추서하였다.