Il est né en Lithuanie (Russie) dans une famille de petits hobereaux polonais le 11 septembre 1877. Felix Edmoundovitch Dzerjinski quitte le lycée en 1895 pour militer à Vilno dans le Parti social-démocrate de Lituanie.

Émigré en 1902, il devient l’un des lieutenants de Rosa Luxemburg à la tête du Parti social-démocrate polonais qu’il représente au congrès de Stockholm du P.O.S.D.R. (Parti ouvrier social-démocrate de Russie), en 1906, où il est élu au comité central.

Après 1911, il continue à soutenir Lénine dans les débats à l’intérieur de la social-démocratie russe et à le combattre aux côtés de Rosa Luxemburg dans ceux de la social-démocratie polonaise.

Révolutionnaire professionnel, il est arrêté à mainte reprise et passera onze ans en prison et en exil. Arrêté notamment le 1er février 1912, il n’est libéré à Moscou que par la révolution de Février. Il adhère alors immédiatement au Parti bolchevik et entre en août 1917 au comité central. Il apporte son soutien total à Lénine. En décembre 1917 il s’est vu confier par Lénine une tâche lourde de responsabilités : celle de mettre sur pied et de diriger la Commission extraordinaire panrusse de lutte contre la contre-révolution (Vetcheka, plus connue sous le nom de Tcheka), qui devint, en 1922, la police politique, le Guepeou.

Pendant la guerre civile, on fait appel à cet homme énergique pour dénouer des cas extrêmement difficiles. Mais, hostile à la paix de Brest-Litovsk, il s’élève, en janvier 1918, avec une extrême violence contre Lénine, allant jusqu’à réclamer sa destitution.

Politiquement proche de Trotski au comité central jusqu’en 1921, il se rapproche de Staline à propos de la question nationale lors de l’« affaire géorgienne » où Lénine les rend tous deux responsables de la politique de russification. En 1921-1922, avec Ordjonikidze, Dzerjinski appliqua en Géorgie la politique de terreur de Staline, que Lénine condamna sévèrement.

Il soutient Staline dans la lutte pour la succession de Lénine. Responsable de la police politique, il est indipensable à qui veut conquérir le pouvoir. En 1924, il devint commissaire du peuple à l’Intérieur tout en restant à la tête de la Guépéou. D’un caractère violent, il mourut d’une crise cardiaque après avoir lancé des imprécations contre Kamenev et Piatakov durant une session du plénum du comité central.