Dengan bergantinya ISDV menjadi PKI, maka berganti pula susunan organisasinya. Semaoen terpilih menjadi Ketua PKI pertama, Darsono menjadi Wakil Ketua, Bergsma sebagai Sekretaris, Dekker sebagai Bendahara, dan Baars sebagai Komisioner.
Tidak lama berselang, pada 24 Desember 1920, PKI memutuskan untuk bergabung dengan Komintern. Dalam Kongres Komintern, PKI diwakili oleh Sneevliet. Tahun-tahun pertama kerja PKI adalah menyebarkan paham komunisme kepada penduduk setempat.
Selain itu, Semaoen dan Darsono juga harus menjaga pengaruh mereka dalam SI. Tantangan terbesar Semaoen dalam menjaga pengaruhnya di SI yaitu menepis tuduhan musuh-musuh PKI yang menyatakan komunisme dan PKI memusuhi umat Islam.
Sebagai akibat dari tuduhan itu, terjadi persaingan yang cukup tajam antara SI dengan PKI. Puncaknya, SI menggalakkan disiplin partai pada Oktober 1921 yang melarang anggota-anggotanya untuk bergabung dengan PKI pimpinan Semaoen.