을사늑약 체결 직전인 1905년 9월 9일 가족들을 이끌고 중국으로 망명하였다. 장쑤성 난퉁에 정착하여 중국인 교육자이자 실업가인 장지안의 주선으로 한묵림서국(翰墨林書局)에서 근무하면서 민족의 문화유산 정리와 시문 창작에 정진하였다. 문장으로 나라에 보답하겠다는 의지를 드러내며 다수의 한시를 지어 민족의식을 고취하였다.

1909년 중국 하얼빈에서 안중근(安重根)이 초대통감 이토 히로부미(伊藤博文)를 사살하자 수많은 시문을 지었다. 특히 「문의병장안중근보국수사(聞義兵將安重根報國讎事)」는 수작(秀作)으로 꼽힌다.

1910년 일제에 의해 강제병합조약이 체결되자 직접 상복(喪服)을 지어입고 「명호부(嗚呼賦)」를 지어 비분(悲憤)을 하소연했다. 또 자신의 벗인 매천(梅泉) 황현(黃玹)이 망국(亡國)을 통탄하여 단식(斷食)으로 순국(殉國)했다는 소식을 접하자, 1912년 『매천집(梅泉集)』을 정리해 출판하고, 『매천야록(梅泉野錄)』을 교정(校正)하여 자신의 저서인 『한사계(韓史綮)』에 인용함으로써 세상에 널리 알렸다.

1912년 난징(南京)에 중화민국임시정부(中華民國臨時政府)가 수립되자, 중국 국적(國籍)을 취득하고 수많은 중국 측 인사들과 교류하였다. 1919년 대한민국임시정부(大韓民國臨時政府)가 수립되자 여러 요인들과 교류하면서 대한민국임시정부를 대신하여 중국 정부에 한국의 독립운동 지지를 호소하기 위한 「진정서」를 집필해 제출함으로써, 한국인의 항일의지를 피력하고 중국정부의 지원을 요청하였다.

이 외에도 22년 동안 중국에 체류하면서 『안중근전』을 비롯해 『교정삼국사기(校正三國史記)』, 『중편한대숭양기구전(重編韓代崧陽耆舊傳)』, 『한국역대소사(韓國歷代小史)』, 『신고려사』 등 항일투사와 우리 역사에 관한 다수의 저서를 집필 또는 편찬 간행하여 국내에 전파하였다. 중국혁명운동과의 연대 속에서 한국 독립의 희망을 찾고 있던 상황에서 1927년 중국의 국공합작(國共合作)과 국민혁명(國民革命)이 좌절되자, 절망 속에서 자결(自決)하였다.

정부는 2018년에 건국훈장 애국장을 추서하였다.