Beberapa saat kemudian, Isaäc Groneman melakukan pembongkaran besar-besaran dan batu-batu candi ditumpuk di sepanjang Sungai Opak. Arca dan relief candi diambil oleh Belanda dan digunakan sebagai hiasan taman, sedangkan penduduk asli menggunakan batu candi untuk bahan bangunan dan pondasi rumah.
Restorasi dimulai pada tahun 1918, tetapi upaya serius yang sebenarnya dimulai pada tahun 1930. Pada tahun 1902-1903 Theodoor van Erp mempertahankan bagian yang kemungkinan akan runtuh.
Pada tahun 1918-1926, dilanjutkan oleh Kantor Purbakala (Oudheidkundige Dienst) di bawah P.J. Perquin lebih sistematis menurut kaidah arkeologi.
Seperti diketahui, para pendahulunya melakukan pembongkaran dan pembongkaran ribuan batu secara sembarangan, tanpa memikirkan upaya pemugaran.
Pada tahun 1926 De Haan berlanjut hingga akhir hayatnya pada tahun 1930. Pada tahun 1931 ia digantikan oleh Ir. V.R. van Romondt sampai tahun 1926, kemudian diberikan tugas mengarahkan rehabilitasi kepada putra Indonesia dan ini berlanjut sampai tahun 1993.
Upaya restorasi berlanjut hingga hari ini. Pemugaran Candi Siwa, candi utama kompleks, selesai pada tahun 1953 dan diresmikan oleh Presiden pertama Republik Indonesia, Sukarno.
Beberapa bagian candi telah dipugar, menggunakan batu baru, karena banyak batu asli dicuri atau digunakan kembali di tempat lain.
Sebuah kuil hanya akan dipugar jika setidaknya 75 biksu asli masih ada di sana. Akibatnya, banyak pagoda kecil yang belum dibangun kembali dan hanya terlihat struktur utama bangunannya saja.