baca dikit ajh.. AGI 2027, Benarkah AI Bakal Nyamain Kita/Manusia Cuy? Leopold Aschenbrenner, mantan peneliti tim Superalignment OpenAI, bilang kalau Artificial General Intelligence (AGI) bisa aja muncul sekitar tahun 2027, dia gk ngasal nebak cuy, tapi berdasarkan perkembangan AI yg cpet dalam beberapa tahun terakhir, dari GPT-2, GPT-3, GPT-4, sampai model AI terbaru, peningkatan kemampuan, daya komputasi, dan algoritmanya naik drastis, menurut analisis yg dia tulis di esai Situational Awareness, kalau tren ini terus lanjut, AI nanti bukan cuma bisa jawab pertanyaan, tapi juga bisa ngoding, bikin penelitian, mecahin masalah rumit, bahkan kerja setara insinyur atau ilmuwan manusia, tapi jujr ini masih prediksi, bukan fakta yg udh kejadian, dan masih banyak ilmuwan AI yg beda pendapat soal kapan AGI beneran bakal muncul. Yang bikin pembahasan ini agak serem adalah konsep recursive self-improvement, jadi kalau suatu saat AI udh cukup pintar buat bantu bikin AI yg lebih pintar lagi, proses itu bisa terus berulang, hasilnya perkembangan AI bisa makin cepet tanpa harus nunggu manusia ningkatin semuanya, konsep ini sebenernya udh dibahas sejak tahun 1965 sama I.J. Good, terus dipopulerin lagi sama Nick Bostrom lewat bukunya Superintelligence, tapi sampai sekarang belum ada bukti kalau ledakan kecerdasan kayak gitu pasti bakal terjadi, jadi ini masih masuk ranah hipotesis/prediksi ilmiah yg lagi diteliti. Leopold juga ngebahas soal keamanan, menurut dia model AI canggih itu nilainya bisa setara aset strategis negara, karena bobot model atau model weights berisi hasil latihan AI yg butuh biaya miliaran dolar dan ribuan GPU, kalau data ini dicuri lewat serangan siber atau spionase, negara lain bisa ngejar perkembangan AI jauh lebih cepet tanpa mulai dari nol, makanya dia ngusulin pembangunan AI skala nasional yg mirip Manhattan Project, yaitu pemerintah, ilmuwan, sama perusahaan teknologi kerja bareng buat bangun sekaligus ngamanin AI generasi berikutnya. Masalah yg paling sering dibahas para peneliti sekarang adalah AI Alignment, yaitu gimana caranya bikin AI yg makin pintar tapi tetrp nurut ama tujuan kita/manusia, bukan jalan sendiri, tim Superalignment OpenAI dibentuk karna alasan ini, peneliti Jan Leike dan Ilya Sutskever bilang kalau penelitian soal keamanan AI harus jalan secepet perkembangan kemampuan AI itu sendiri, karna kalau kemampuan AI naik lebih dulu dibanding sistem pengamanannya, risikonya bakal makin susah dikontrol, jadi inti podcast ini bukan bilang kiamat AI pasti dateng, tapi lebih ke peringatan kalau perkembangan AI sekarang cepet banget, sementara kesiapan manusia, regulasi, dan sistem keamanannya masih ketinggalan. #ArtificialIntelligence #AGI #Technology #OpenAI #Science - @xzam_psi_neuro