1879년 식년문과(式年文科)에 병과(丙科)로 급제하여 여러 관직을 거쳐서 1887년에 협판내무부사(協辦內務府事)가 되었다. 1895년 명성황후가 친로정책을 표방할 때 농상공부대신서리가 되어 친로정책을 추진함으로써 친로파로 지목되어 사임하였다.

1895년 10월에 춘생문사건을 일으키는데 주역이 되었다가 실패하고 러시아로 망명하였다.

1896년 2월 아관파천이 일어나자 김홍집(金弘集) 정병하(鄭秉夏) 등을 몰아내고 아관파천내각의 법무대신 겸 경무사가 되었다. 이완용(李完用) 등의 박해를 받아 신변이 위험하므로 1897년에 자원하여 주미공사로 가서 3년간 외교에 노력하고, 1900년에는 주러시아 공사로 전임되어 독일 오스트리아 프랑스 공사를 겸임하였다.이범진이 주러시아공사로 있을 때 러시아는 한국의 친로수구파정부에게 용암포(龍岩浦)항의 조차(租借)를 요구하였고 한국정부에서는 이를 허락하여 용암포 조차를 승인하는 공문을 이범진에게 보내었다. 이범진은 용암포의 러시아에의 조차를 강경하게 반대하고 이 공문을 러시아정부에 전달하지 않았다. 한국정부에서는 이범진을 파면하고 참서관 김인석(金仁錫)을 대리공사로 임명하여 이 공문을 전달한 다음에 후에 이르러서야 이범진을 공사로 복직시켰다. 이것은 그가 러시아와의 친선관계를 중시하면서도 매우 애국적이었음을 잘 나타내 준다고 할 것이다.

1905년 11월 일제가 무력으로 고종과 대신들을 위협하여 「을사조약」을 강제 체결하고 외교권을 박탈한 다음 각국주재 한국공사들을 소환하였다. 이범진은 을사조약에 통분하여 일제의 소환에 불응하고 양국황제의 밀사(密使)의 명목으로 계속 러시아 수도에 체류하면서 국권회복을 위하여 노심초사하였다.1907년에 헤이그 만국평화회의에 고종이 파견하는 밀사로서 이상설(李相卨) 이 준(李儁)이 러시아 수도에 도착하자 그들과 협의하여 고종의 친서를 작성하고 아들 이위종(李瑋鍾)을 밀사로 임원 겸 통역으로 동반케 했으며, 러시아 황제에게 후원을 요청하여 러시아 호위병의 보호를 받으면서 헤이그에 무사히 도착케 하고, 러시아 대표의 알선으로 각국 신문기자들에게 한국밀사들이 연설할 기회를 만드는 등, 헤이그 밀사 파견과 활동을 적극적으로 지원하였다.

1908년에 연해주에서 의병을 조직할 때 지원금을 보내었으며, 1909년에 블라디보스톡 신한촌의 계동학교(啓東學校) 세동학교(世東學校) 신동학교(新東學校)를 통합하여 큰 규모의 한민학교(韓民學校)를 설립할 때에도 1천 루불을 보내어 교포들의 교육 구국운동을 지원하였다.1910년 8월 일제가 한국을 병탄하여 나라가 망하자 통분을 이기지 못하여 스스로 휴대한 권총으로 자결하였다. 그의 아들 이위종도 일제 헌병대에 체포되어 잔혹한 고문을 받은 결과 폐인이 되었다.

정부에서는 고인의 공훈을 기리어 1991년에 건국훈장 애국장(1963년 대통령표창)을 추서하였다.