전라남도 함평군(咸平郡) 신광면(新光面) 함정리(咸井里)에서 김영곤(金永坤, 혹은 金永杓)의 장남으로 출생하였으나 조실 부모하고 임정 국무위원이 된 숙부 김철(金徹)의 슬하에서 성장하였다. 1924년 영광고보(靈光高普)를 중퇴하고 임시정부 국무위원인 김철(金徹)을 찾아 상해에 도착한 그는 임시정부에 참여하였으며 퍼불릭스쿨에서 수학하고, 1925년 양부의 병간호를 위해 귀국하였다가 다시 상해로 가서 영국중학(英國中學) 「퍼불릭스쿨」을 졸업하였다. 1928년 1월 유학을 목적으로 일본에 도항하여 와세다대학에 입학하였으나 재학중 학자금을 탕진하고 동년 4월 귀향하여 전남 나주군 문평면사무소에 들어가 완구용 권총으로 면장 이하를 협박하여 금고를 빼앗아 도주하다가 체포되었다. 동년 5월 대구복심법원에서 징역 3년 6월을 선고받아 개성형무소에서 복역 중 1930년 4월 가출옥하였으며 1931년 7월에 목포를 경유 상해에 도착하였다. 동년 9월 상해의 법정대학 정치과에 입학하여 재학중 김 구 등이 조직한 대한교민단대회(大韓僑民團大會)에 참석하여 서기로 취임하여 만보산(萬 山)사건을 규탄하는 등 활동하였다. 동년 11월 재상해중국학생연합회에서 항일구국의 기치 아래 대일전쟁을 위한 중국 구국학생의용군이 조직되자 법정대학의용군에 가입하여 군사훈련을 이수하고 의연금 모집에 종사하였다. 1932년 1월 공산단체인 상해한인청년동맹(上海韓人靑年同盟)을 배격하고 일제의 침략세력을 적극 소멸함은 물론 독립투사의 전위적 활동과 지역적 책임완수 및 한국청년의 단체훈련을 실시하여 혁명역량을 총집중할 것을 강령으로 내걸고 상해한인청년당(上海韓人靑年黨)을 조직하였다. 그는 동당 이사장에 선임되어 활약하였다. 1932년 봄 상해 홍구공원(虹口公園)의 투탄사건이 있은 후 그는 법정대학을 퇴학하고 조소앙계열에 속하여 임시정부 피난자금을 중국홍십자사와 교섭하여 지원 받아 800불을 조소앙에게 전하였으나 김 구계열과 알력을 일으키기도 하였다. 동년 11월 22일 중국인 중한민족항일대동맹원(中韓民族抗日大同盟員) 황전영(黃展英)으로부터 대항일전(對抗日戰)에 사용할 폭탄제조 의뢰를 받아 이를 준비하다가 상해 프랑스조계의 황전영의 집에서 홍구공원 사건 혐의자로 일경에 체포되었다. 그러나 절차상의 문제로 일경과 프랑스관헌의 분규로 곧 석방되었다. 석방 후 1926년에 조직된 무력단체인 병인의용대(丙寅義勇隊)의 세력을 부활하기 위하여 맹렬한 활동을 전개하던 중 1933년 11월 22일 상해에서 다시 일경에 검거되었다. 그는 국내로 압송되어 1934년 12월 대구복심법원에서 징역 5년형이 확정되어 옥고를 치렀다.
