Namun, pada akhir 1950-an, gerakan ini mendapat tentangan dari pemerintahan Sukarno.
Pada 1961, ia menyatakan perang dengan menggunakan taktik teror dan bandit terhadap warga sipil.
Ia juga pernah mencoba membunuh Sukarno saat shalat Idul Adha pada Mei 1962. Namun, upaya itu gagal.
Tak berapa lama kemudian, Kartosoewirjo ditangkap pada Juni 1962 dan dihukum mati pada September tahun yang sama.
Keputusan hukuman mati tersebut ditandatangani oleh Bung Karno, sosok yang sebenarnya adalah sahabat dari Kartosoewirjo.
Keduanya, bersama dengan tiga pendiri Partai Komunis Indonesia (Semaoen, Alimin, dan Musso) pernah sama-sama ngekos di rumah HOS Tjokroaminoto.
Eksekusi mati terhadap Kartosoewirjo pada kenyataannya tidak pernah benar-benar mengakhiri keberadaan NII.
Organisasi ini kemudian diketahui tumbuh dalam kelompok-kelompok yang lebih kecil.