Levi der 1913 Rosa Luxemburg gegen den Vorwurf der "Aufreizung von zum Ungehorsam" vor Gericht verteidigte gehörte zum Flügel der SPD. Während des Ersten Weltkriegs schloss er sich dem Spartakusbund an; später gehörte er mit Luxemburg Karl Liebknecht zu den Gründern der KPD deren Vorsitz er als Nachfolger des 10. März 1919 ermordeten Leo Jogiches übernahm. Auf dem Parteitag im Oktober J. setzte er die Beteiligung der KPD Wahlen durch seiner rigider Kurs gegen die der Parteimitglieder führte zur Abspaltung der KAPD zur Konstituierung des Rätekommunismus ermöglichte aber 1920 die Vereinigung mit großen Teilen der USPD zur VKPD. Levi lehnte die sogenannte die in der Leitung der VKPD im 1921 eine Mehrheit mit Unterstützung der Vertreter Komintern fand ab. Er trat Ende Februar Vorsitz der VKPD zurück. Nach seiner öffentlichen der putschistischen Taktik der KPD beim Märzaufstand 1921 in der Broschüre Unser Weg. Wider den Putschismus wurde er auf Betreiben Lenins aus der Kommunistischen Internationale und damit der KPD ausgeschlossen weil seine Kritik an der deutschen und der Leitung nicht zurück nehmen wollte. Lenin stimmte jedoch zugleich inhaltlich zu: "Levi hat den verloren. Er war allerdings der einzige in der einen zu verlieren hatte." Über die kehrte er nach deren Vereinigung mit der MSPD 1922 in die SPD zurück.