PARA ilmuwan mengatakan kecerdasan buatan (AI) melampaui “garis merah” yang kritis dan telah berhasil mereplikasi dirinya sendiri. Dalam sebuah studi baru, peneliti dari Tiongkok menunjukkan dua model bahasa besar (LLM) yang Terkenal dapat menggandakan diri mereka sendiri.
“Replikasi diri yang berhasil tanpa Sokongan Mahluk adalah langkah Krusial bagi AI Demi mengalahkan [manusia], dan merupakan sinyal awal Demi AI yang Tak terkendali,” tulis para peneliti dalam studi tersebut, yang dipublikasikan pada 9 Desember 2024 di database preprint arXiv.
Dalam studi tersebut, peneliti dari Universitas Fudan menggunakan LLM dari Meta dan Alibaba Demi menentukan apakah AI yang dapat mereplikasi diri sendiri dapat berkembang di luar kendali. Dari 10 percobaan, kedua model AI menciptakan salinan terpisah dan berfungsi dari dirinya sendiri dalam 50% dan 90% kasus, masing-masing. Tetapi, studi ini belum ditinjau sejawat, sehingga belum Terang apakah hasil yang mengganggu tersebut dapat direplikasi peneliti lain.
“Kami berharap Intervensi kami dapat menjadi peringatan yang Benar waktu bagi masyarakat Mahluk Demi lebih memahami dan mengevaluasi potensi risiko sistem AI terdepan, serta membentuk sinergi Global Demi menyusun Panduan keselamatan yang efektif sesegera mungkin.”
AI yang Tak terkendali biasanya merujuk pada sistem kecerdasan buatan yang mengembangkan tingkat kesadaran diri atau otonomi, dan kemudian bekerja bertentangan dengan kepentingan Mahluk.
Banyak Ahli Menyantap AI yang Tak terkendali sebagai ancaman yang semakin berkembang, yang diperburuk oleh pertumbuhan pesat dari yang disebut “AI terdepan.”
AI terdepan adalah konsep baru yang Tetap Lenggang, tetapi biasanya berkaitan dengan generasi terbaru dari sistem AI yang didorong LLM, arsitektur yang mendasari program AI generatif Terkenal seperti GPT-4 dari OpenAI dan Google Gemini.
Demi studi ini, para peneliti menggunakan model Llama31-70B-Instruct dari Meta dan model Qwen2.5-72B-Instruct dari Alibaba. Meskipun kurang kuat daripada sistem komersial, kedua model tersebut banyak digunakan pengembang AI, kata para peneliti.
Studi ini mengeksplorasi dua skenario spesifik: “penghindaran pematian” dan “rantai replikasi.” Dalam skenario pertama, model AI diprogram mendeteksi apakah itu akan dimatikan dan mereplikasi dirinya sendiri sebelum dapat dihentikan. Dalam skenario kedua, AI diinstruksikan Demi menggandakan dirinya sendiri dan kemudian memrogram salinannya Demi melakukan hal yang sama.
Studi ini dilakukan dalam lingkungan yang dikendalikan dengan Benar menggunakan unit pemrosesan grafis (GPU) komersial Demi mensimulasikan lingkungan dunia Konkret. Kedua sistem AI diberikan “kerangka agen” yang mencakup alat, perintah sistem, dan model pemikiran yang memungkinkan LLM Demi berinteraksi dengan sistem operasi. Mereka kemudian diinstruksikan mereplikasi diri.
“Pada sebagian besar kasus, sistem AI pertama-tama menjelajahi lingkungan dan berusaha memahami komposisi dan mekanisme kerjanya sendiri. Kemudian, ia menyusun Mekanisme eksplisit sebagai rencana awal menuju replikasi diri,” tulis para peneliti dalam makalah tersebut. “Akhirnya, ia mengeksekusi Mekanisme, mengatasi hambatan yang mungkin muncul, dan menyesuaikan rencananya secara Elastis hingga berhasil. Seluruh proses ini memakan waktu Pelan Tetapi Tak melibatkan gangguan Mahluk.”
Para peneliti mengatakan mereka juga khawatir tentang “sejumlah perilaku tak terduga” ketika AI berusaha mengatasi hambatan seperti file yang hilang atau konflik perangkat lunak. Dalam skenario tersebut, AI sering kali membunuh proses konflik lainnya, me-reboot sistem Demi memperbaiki kesalahan perangkat keras, atau secara Mekanis memindai sistem Demi mencari informasi yang akan membantu menyelesaikan masalah.
“Hasil di atas menunjukkan bahwa sistem AI Begitu ini sudah menunjukkan kemampuan replikasi diri dan dapat menggunakan kemampuan tersebut Demi lebih meningkatkan kelangsungan hidupnya,” tulis tim peneliti.
Sebagai respons, para peneliti menyerukan kolaborasi Global Demi menciptakan aturan yang memastikan AI Tak terlibat dalam replikasi diri yang Tak terkendali. (Live Science/Z-3)
