Pengambilalihan kecerdasan buatan

Pengambilalihan kecerdasan buatan adalah skenario yang dibayangkan di mana kecerdasan buatan (AI) muncul sebagai bentuk kecerdasan yang dominan di Bumi dan program komputer atau robot secara efektif mengambil alih planet ini dari spesies manusia, yang bergantung pada kecerdasan manusia. Kisah pengambilalihan kecerdasan buatan tetap populer di seluruh fiksi ilmiah, namun kemajuan terkini telah menjadikan ancaman tersebut semakin nyata. Skenario yang mungkin terjadi mencakup penggantian seluruh tenaga kerja manusia karena otomatisasi, pengambilalihan oleh kecerdasan buatan super cerdas (ASI), dan gagasan pemberontakan robot. Beberapa tokoh masyarakat, seperti Stephen Hawking dan Elon Musk, telah menganjurkan penelitian mengenai tindakan pencegahan untuk memastikan mesin super cerdas di masa depan tetap berada di bawah kendali manusia.

Tipe

Otomatisasi perekonomian

Konsensus tradisional di kalangan ekonom adalah bahwa kemajuan teknologi tidak menyebabkan pengangguran jangka panjang. Namun, inovasi terbaru di bidang robotika dan kecerdasan buatan telah menimbulkan kekhawatiran bahwa tenaga kerja manusia akan menjadi usang, menyebabkan orang-orang di berbagai sektor tidak memiliki pekerjaan untuk mencari nafkah, sehingga menyebabkan krisis ekonomi. Banyak usaha kecil dan menengah juga mungkin akan tersingkir dari bisnisnya jika mereka tidak mampu membeli atau menggunakan teknologi robotik dan kecerdasan buatan terbaru, dan mungkin perlu fokus pada bidang atau layanan yang tidak dapat dengan mudah digantikan agar dapat terus bertahan menghadapi teknologi tersebut.

Pembasmian

Ilmuwan seperti Stephen Hawking yakin bahwa kecerdasan buatan manusia super mungkin terjadi secara fisik, dengan menyatakan "tidak ada hukum fisika yang menghalangi pengorganisasian partikel dengan cara yang melakukan perhitungan lebih maju daripada pengaturan partikel di otak manusia". Para pakar seperti Nick Bostrom memperdebatkan sejauh mana kecerdasan manusia super, dan apakah hal ini menimbulkan risiko bagi umat manusia. Menurut Bostrom, mesin super cerdas tidak serta merta dimotivasi oleh hasrat emosional yang sama untuk mengumpulkan kekuasaan seperti yang sering kali mendorong manusia, namun mungkin memperlakukan kekuasaan sebagai sarana untuk mencapai tujuan utamanya; mengambil alih dunia akan meningkatkan aksesnya terhadap sumber daya dan membantu mencegah makhluk lain menghentikan rencana tersebut. Sebagai contoh yang terlalu disederhanakan, pemaksimal penjepit kertas yang dirancang semata-mata untuk membuat penjepit kertas sebanyak mungkin ingin mengambil alih dunia sehingga dapat menggunakan semua sumber daya dunia untuk membuat penjepit kertas sebanyak mungkin, dan, sebagai tambahan, mencegah manusia untuk menghalanginya atau menggunakan sumber daya tersebut untuk hal lain selain penjepit kertas.

Dalam fiksi

Pengambilalihan kecerdasan buatan adalah tema umum dalam fiksi ilmiah. Skenario fiksi biasanya sangat berbeda dari hipotesis para peneliti karena skenario tersebut melibatkan konflik aktif antara manusia dan kecerdasan buatan atau robot dengan motif antropomorfik yang memandang mereka sebagai ancaman atau memiliki keinginan aktif untuk melawan manusia, dibandingkan dengan kekhawatiran para peneliti akan hal tersebut. Kecerdasan buatan yang dengan cepat memusnahkan manusia sebagai produk sampingan dari pencapaian tujuannya. Idenya terlihat dalam R.U.R. karya Karel Čapek, yang memperkenalkan kata robot pada tahun 1921, dan dapat dilihat sekilas dalam Frankenstein karya Mary Shelley (diterbitkan pada tahun 1818), saat Victor merenungkan apakah, jika dia mengabulkan permintaan monsternya dan menjadikannya seorang istri, mereka akan berkembang biak dan jenisnya akan menghancurkan umat manusia.