Kecerdasan semacam itu tidak dapat dengan mudah dikendalikan, baik oleh kelompok yang membuatnya, atau badan internasional, dan mungkin akan dapat meningkatkan kecerdasan mereka sendiri.
Jika mereka memutuskan kemanusiaan jika tidak ada nilainya, mereka akan terdorong untuk membangun dunia tanpa manusia. Tetapi kecerdasan buatan semacam itu dapat dengan mudah memerangi sebagian besar risiko lain dalam laporan tersebut, menjadikannya alat yang sangat potensial.
Saat ini, tidak ada yang tahu apakah ada risiko nyata dari kecerdasan mesin ekstrim dan oleh karena itu para peneliti memberikan perkiraan probabilitas yang luas.
BACA JUGA:Pertalite Dihilangkan Tahun Depan, Ini Jenis BBM Penggantinya
4. Perubahan iklim yang ekstrem
Para ilmuwan saat ini memperkirakan perubahan iklim yang disebabkan oleh aktivitas manusia menambahkan karbon dioksida ke atmosfer dapat berarti suhu global rata-rata meningkat sebesar 4C.
Namun ada risiko bahwa pemanasan bisa jauh lebih ekstrem dari perkiraan, dan naik hingga 6C.
Dampaknya akan paling kuat di negara-negara miskin, yang akan menjadi tidak dapat dihuni, penelitian menyimpulkan, dan menyebabkan kematian massal, kelaparan, dan migrasi massal.
5. Biologi sintetik