Vitalik Buterin memberi amaran tentang risiko AI sambil menekankan peluang baharu

Vitalik Buterin, pengasas bersama Ethereum, baru-baru ini berkongsi pendapatnya tentang sifat dua mata kecerdasan buatan (AI), yang membentangkan kedua-dua risiko ketara dan potensi transformatifnya. Melalui satu siri tweet di X, Buterin menyuarakan kebimbangan mengenai pembangunan AI yang tidak disekat, menyatakan kemungkinan sistem autonomi berkembang menjadi ancaman wujud. Dia memberi amaran bahawa sistem AI yang direka dengan buruk boleh menimbulkan “kehidupan pintar mereplikasi diri bebas,” yang akhirnya boleh menyebabkan manusia kehilangan kawalan dan hilang kuasa secara kekal.

Pada masa yang sama, Buterin mengimbangi kewaspadaannya dengan perspektif optimis tentang keupayaan AI. Dia merujuk kepada AI sebagai “mecha suits for the human mind,” metafora yang membayangkan AI sebagai alat yang mampu meningkatkan kecerdasan manusia, kreativiti dan kebolehan kognitif keseluruhan. Buterin melihat AI sebagai cara yang berkuasa untuk menguatkan potensi manusia, di mana jenis AI yang betul boleh berfungsi sebagai alat transformatif yang memanjangkan keupayaan manusia dalam cara yang belum pernah berlaku sebelum ini.

Aspek utama hujah Buterin berkisar tentang konsep ejen AI. Ini ialah program autonomi yang direka untuk melaksanakan tugas secara bebas, daripada fungsi harian yang ringkas seperti chatbots kepada aplikasi yang lebih kompleks di mana ejen AI mengurus projek jangka panjang dan tugas rumit secara autonomi. Walaupun dia mengakui peningkatan ketara yang boleh dibawa oleh ejen AI, dia juga membangkitkan kebimbangan tentang bahaya menggantikan antara muka yang dipacu manusia, seperti sistem sembang, dengan sistem autonomi yang mungkin beroperasi di luar pengawasan manusia.

Ulasan Buterin tentang AI dibina berdasarkan amaran masa lalunya mengenai antara muka otak-komputer, di mana beliau menyokong untuk mengekalkan kawalan manusia ke atas teknologi untuk mengelakkan risiko AI superintelligent melebihi keupayaan manusia. Beliau menekankan keperluan untuk pembangunan sistem AI yang beretika dan bertanggungjawab yang mengutamakan memperkasakan manusia dan bukannya menggantikan mereka. Dalam konteks ini, Buterin menyeru pendekatan reka bentuk AI yang meningkatkan agensi manusia dan memastikan bahawa kemajuan teknologi memberi manfaat kepada manusia dan bukannya menguasai atau menggantikannya.

Kenyataan beliau mencerminkan perdebatan berterusan mengenai masa depan AI, terutamanya mengenai cara ia harus dibangunkan dan dikawal untuk menjaga kepentingan manusia. Memandangkan AI terus berkembang pada kadar yang pantas, pandangan Buterin menyumbang kepada perbincangan yang lebih luas tentang mengimbangi inovasi dengan implikasi etika sistem autonomi. Visinya menyokong masa depan di mana AI boleh menjadi alat untuk menguatkan kreativiti dan produktiviti manusia tanpa menjejaskan autonomi atau kawalan manusia.