Suara.com - Kabar CEO OpenAI Sam Altman dipecat perusahaannya sendiri ternyata mengungkap fakta baru soal teknologi berbahaya yang dimiliki perusahaan pembuat ChatGPT tersebut.
Diketahui Sam Altman dipecat dewan perusahaan OpenAI karena adanya rumor soal keamanan Artificial General Intelligence (AGI). AGI adalah teknologi AI yang memiliki kecerdasan layaknya manusia dan dapat memahami segala sesuatu di sekitarnya.
Selain itu, rumor lain mengatakan kalau Sam Altman tidak jujur pada dewan hingga adanya kekhawatiran produk AI ke publik tanpa adanya tindakan pencegahan keamanan yang memadai.
Nah menurut narasumber anonim, para peneliti di OpenAI ternyata sudah mulai tak lama lagi meluncurkan produk AGI. Ini berbeda dengan apa yang mereka umumkan ke publik.
Definisi AGI sendiri telah berkembang dalam OpenAI, dari tugas yang dapat diajarkan kepada manusia hingga melampaui kemampuan manusia dalam bidang yang bernilai ekonomi.
Transparansi dilaporkan telah menurun sejak peluncuran GPT-2 pada tahun 2019, dengan meningkatnya kerahasiaan seputar detail model, yang mungkin terkait dengan pengembangan AGI.
Implikasi AGI ini sangat besar sehingga memerlukan kolaborasi global untuk mengatasi risiko dan upaya mitigasi, sesuai laporan Gizmochina, Minggu (26/11/2023).
AGI sendiri dikhawatirkan dapat membuat banyak orang kehilangan pekerjaan hingga membuat adanya pergolakan konflik sosial, di mana orang-orang kaya lebih cenderung berkuasa karena teknologi ini.
Saat Altman dipecat, mayoritas dari 700 karyawan OpenAI mengancam resign. Mereka bisa mengubah keputusannya apabila para anggota dewan perusahaan mengundurkan diri, yang mana Sam Altman kini sudah bekerja kembali di OpenAI.
Sebelum pemecatan Altman, staf peneliti mengirimkan surat peringatan kepada dewan perusahaan tentang penemuan AI yang kuat, yang berpotensi terkait dengan proyek Q*.
Q* adalah sebuah proyek OpenAI yang dinilai sebagai terobosan dalam pencarian AGI. Proyek ini mampu menunjukkan kemampuan pemecahan masalah matematika yang luar biasa dengan sumber daya komputasi yang signifikan.
Surat tersebut menandai kehebatan dan potensi bahaya AI tanpa menyebutkan secara spesifik masalah keamanannya.
Proyek Q* dan surat peringatan disebut-sebut sebagai faktor penyebab pemecatan Altman, dan Mira Murati, seorang eksekutif lama, menyebutkan proyek tersebut kepada karyawan. Juru bicara OpenAI mengkonfirmasi komunikasi Murati tetapi tidak mengomentari soal rumor proyek Q* tersebut.
TERPOPULER
