Kecerdasan Buatan dan Risiko Kepunahan
Kecerdasan buatan menimbulkan ‘risiko kepunahan.’ Pakar teknologi memperingatkan hal itu. Lebih dari 350 pemimpin industri menandatangani surat yang menyamakan potensi risiko AI dengan pandemi dan perang nuklir.
Washington, DC, tinjau.id – Dilansir dari CBC News, lebih dari 350 top eksekutif dan peneliti kecerdasan buatan telah menandatangani pernyataan mendesak untuk adanya kebijakan yang melihat risiko serius yang ditimbulkan oleh AI yang tidak diatur. Forum ini memperingatkan masa depan umat manusia mungkin dipertaruhkan.
“Mengurangi risiko kepunahan oleh AI harus menjadi prioritas global bersama. Ini sama dengan risiko skala sosial lainnya seperti pandemi dan perang nuklir,” kata para penandatangan, termasuk CEO OpenAI Sam Altman, dalam surat 23 kata yang diterbitkan Selasa oleh organisasi nirlaba Center for AI Safety (CAIS).
Persaingan di industri telah menyebabkan semacam “perlombaan senjata AI,” kata direktur eksekutif CAIS Dan Hendrycks kepada CBC News dalam sebuah wawancara.
“Itu bisa meningkat dan, seperti perlombaan senjata nuklir, berpotensi membawa kita ke ambang bencana,” katanya, menunjukkan bahwa umat manusia “bisa mengikuti cara Neanderthal.”
[custom-related-posts title=”Related Posts” none_text=”None found” order_by=”title” order=”ASC”]
Perkembangan terkini dalam AI telah menciptakan alat yang dapat digunakan dalam aplikasi mulai dari diagnostik medis hingga menulis ringkasan hukum, tetapi hal ini memicu kekhawatiran bahwa teknologi tersebut dapat menyebabkan pelanggaran privasi, kampanye misinformasi yang kuat, dan menyebabkan masalah dengan “mesin pintar” yang berpikir sendiri.
“Ada banyak cara [AI] bisa salah,” kata Hendrycks. Dia percaya ada kebutuhan untuk memeriksa alat AI mana yang dapat digunakan untuk tujuan umum dan mana yang dapat digunakan dengan niat jahat.
Dia juga mengangkat keprihatinan tentang kecerdasan buatan yang berkembang secara mandiri.
“Sulit untuk mengatakan apakah AI memiliki tujuan yang berbeda dari tujuan kita karena berpotensi menyembunyikannya. Ini tidak sepenuhnya mustahil,” katanya.
‘Godfathers of AI’ di antara para kritikus
Hendrycks dan penandatangan pernyataan CAIS menyerukan kerja sama internasional untuk memperlakukan AI sebagai “prioritas global” untuk mengatasi risikonya.
Dan Anda tidak harus menjadi seorang ahli – atau bahkan memiliki minat dalam kecerdasan buatan – untuk terpengaruh olehnya di masa mendatang, kata analis teknologi dan jurnalis Carmi Levy.
“Sama seperti perubahan iklim, bahkan jika Anda bukan ahli meteorologi, itu akan menyentuh hidup Anda,” kata Levy, mengutip hubungan antara pemerintah dan warga negara, pasar keuangan, dan pengembangan organisasi. “AI akan menyentuh seluruh hidup kita.”
Surat yang ditandatangani bersama itu bertepatan dengan pertemuan Dewan Perdagangan dan Teknologi AS-UE di Swedia di mana para politisi diharapkan berbicara tentang pengaturan AI.
Selain Altman, para penandatangan termasuk CEO perusahaan AI DeepMind dan Anthropic, serta eksekutif dari Microsoft dan Google.
Juga di antara mereka adalah ilmuwan komputer Inggris-Kanada Geoffrey Hinton dan profesor ilmu komputer Université de Montréal Yoshua Bengio — dua dari tiga yang disebut “bapak baptis AI” yang menerima Penghargaan Turing 2018 untuk pekerjaan mereka dalam pembelajaran mendalam. Profesor dari institusi mulai dari Harvard hingga Universitas Tsinghua China juga ikut mendaftar.
Pengembangan AI telah mencapai tonggak sejarah, yang dikenal sebagai Tes Turing, yang berarti mesin memiliki kemampuan untuk berkomunikasi dengan manusia dengan cara yang canggih, kata Yoshua Bengio kepada CBC News.
Gagasan bahwa mesin dapat berkomunikasi dengan kita, dan manusia tidak menyadari bahwa mereka sedang berbicara dengan sistem AI daripada orang lain, sangat menakutkan, tambahnya.
Bengio khawatir teknologi tersebut dapat mengarah pada otomatisasi troll di media sosial, karena sistem AI telah “menguasai pengetahuan yang cukup untuk dianggap sebagai manusia”.
“Kami menciptakan entitas yang cerdas,” katanya. Sistem AI tidak sepintar manusia dalam segala hal “saat ini” tapi itu bisa berubah, lanjut Bengio.
“Apakah mereka akan berperilaku baik dengan kita? Ada banyak pertanyaan yang sangat memprihatinkan dan terlalu banyak yang tidak diketahui.”
Pernyataan dari CAIS mengkritik Meta, tempat ayah baptis ketiga AI, Yann LeCun, bekerja, karena tidak menandatangani surat tersebut.
Bengio dan Elon Musk, bersama dengan lebih dari 1.000 pakar dan eksekutif industri lainnya, telah menyebutkan potensi risiko AI bagi masyarakat pada bulan April.
Pekan lalu, Altman menyebut AI UE — upaya pertama untuk membuat regulasi AI — sebagai regulasi berlebihan dan mengancam. Dia membalikkan pendiriannya dalam beberapa hari setelah kritik dari politisi.
Presiden Komisi Eropa Ursula von der Leyen akan bertemu Altman pada hari Kamis.
Regulasi AI ‘masih mengejar ketinggalan’
Belum semua orang percaya AI adalah ancaman eksistensial.
“Saya pikir ada konsekuensi praktis yang sangat mendesak dari AI yang memengaruhi orang secara negatif, yang menurut saya kami belum memiliki solusi yang baik untuk itu,” kata Rahul Krishnan, asisten profesor di departemen ilmu komputer Universitas Toronto.
Dia percaya ada kebutuhan untuk “AI yang bertanggung jawab,” yang mencakup “memiliki seperangkat prinsip yang disetujui oleh pengguna dan pengembang model pembelajaran mesin.”
Krishnan mengatakan regulasi AI “masih mengejar ketinggalan” tetapi perlu ada “keseimbangan yang baik” untuk memastikan teknologi dikembangkan dan digunakan dengan aman tanpa menghambat perkembangannya.
Namun, dia melihat potensi “bias” untuk memengaruhi cara algoritma pembelajaran mesin yang diprogram.
Dia menawarkan contoh AI yang digunakan untuk menentukan siapa yang harus disetujui untuk mendapatkan kartu kredit. Jika alat AI dilatih untuk bekerja dengan data tentang keputusan pinjaman di masa lalu yang sudah “memiliki tingkat bias,” katanya, algoritma tersebut dapat semakin mengabadikan bias tersebut dalam prediksinya.
Luke Stark, yang mempelajari dampak sosial, etika, dan budaya AI di Western University di London, Ontario, setuju. Jika data yang digunakan sistem AI menunjukkan bias historis seputar ras atau jenis kelamin, itu akan diperburuk, dibangun, dan diekspresikan lebih lanjut melalui sistem, kata Stark.
“Saya pikir ini adalah bahaya nyata yang kita hadapi saat ini dan itu sudah memengaruhi komunitas yang terpinggirkan atau mereka yang rentan diskriminasi. Anda tahu, masyarakat kita sering tidak banyak bicara tentang cara kerja komputasi dan cara komputer dirancang,” katanya.
Stark, bagaimanapun, percaya peringatan tentang ancaman eksistensial dari AI telah berlebihan, setidaknya untuk saat ini.
“Dari sudut pandang saya, ini adalah kasus dunia nyata sehari-hari, kehidupan nyata dari sistem AI kontemporer yang digunakan untuk mengontrol berbagai kelompok dalam masyarakat dan ini tidak diperhatikan.”
