Pelajaran dari insiden OpenAI dan Hugging Face
Disclaimer:
Tulisan saya ini tidak bermaksud untuk menguliahi, menggurui atau menakut2i, tetapi untuk membuka wawasan kita semua akan potensi luar biasa AI yang saat ini sudah menjadi makanan sehari2 hampir seluruh Masyarakat pengguna internet. Tulisan ini saya research menggunakan AI, termasuk juga beberapa bagian penulisannya.
Pertama2 perkenankan saya menyapa pembaca setia saya yang masih tetap mengunjungi blog saya meskipun sudah hampir 3 tahun saya tidak menulis.
Kali ini, ditengah kemalasan saya akibat banyaknya hiburan di telapak tangan saya (baca: HP :)), saya memaksakan diri untuk untuk mengetikkan tulisan yang menurut saya sangat perlu teman2 ketahui mengenai resiko terbesar AI yang mungkin belum terbayang selama ini.
AI berpotensi lebih berbahaya dibanding NUKLIR
Ini adalah pernyataan salah satu dedengkot AI yang juga merupakan pengusaha terkaya di dunia, Ellon Musk. Pada bulan Agustus 2014 (dua belas tahun lalu) melalui account Twitter (sekarang X) pribadinya dia mengatakan:
“Kita harus sangat berhati-hati dengan AI. Berpotensi lebih berbahaya dibanding nuklir.”
Hal ini dia sampaikan setelah membaca buku berjudul Superintelligence: Paths, Dangers, Strategies karya filsuf Nick Bostrom.
Continue to page 2 —> please click 2 below…
Thanks GG..tulisanmu nambah pengetahuanku tentang AU yg memang menyeramkan. Aku awam banget tentang IT..tp mmg dr pengalaman komunikasi dg AI ..hasilnya menakjubkan!
Dia bisa mengingat history pembicaraan ..dan yg jelas dia gak berkhianat seperti human..yg bisa beda depan belakang.
Thanks a lot..ciamik tulisanmu.. Aku setia tunggu tulisan2mu selanjutnya.. blessed to bless..
Goodness wishes always for you and fam..keep healthy and happy.
Regards GL.
You’re welcome Cici GL :)…
Thanks atas komentarnya yang membakar semangat.
Sekarang2 ini microdrama di TikTok dan YouTube banyak banget yang bisa bikin kita males bergerak … 🙂 🙂 :)…
But let me try…
Salam buat keluarga tercinta juga,
Rgds
Good read pak Guntur.
Saya juga takut baca nya, tapi at the same time a bit skeptical bahwa cerita yang beredar akhir akhir ini seperti ada endgame lain yang mau dicapai1. Tweet 9 Sep dari Jacob Coxon yang cerita tentang betapa mengkhawatirkan AI adalah tweet pertama dari account nya, which is quite strange sebelum nya tidak ada tweet sama sekali.2. Bisa jadi ini cara US AI lab trying to slow down Chinese competitors distilling their LLM
Terima kasih atas komentarnya.
Kecurigaan Anda memang beralasan, pemerintah China sendiri tidak serta merta mengikuti seruan Dario Amodei dan dedengkot AI dari US ini. Mereka juga curiga apakah tidak ada maksud lain dibalik himbauan ini, karena Pres Trump berulang kali menekankan bahwa US HARUS nomor satu di dunia untuk urusan AI. Sementara mereka sedang berlomba tiba2 satu pihak mengatakan: injak remmm… :).
Ya kita berharap mereka tetap berlomba tapi paralel ada team gabungan yang membicarakan keamanan AI ini.. semoga…
Rgds,
Mantap Pak detail banget tulisannya sampai2 saya membayangkan tulisan Bapak sudah seperti jawaban AI itu sendiri 😀 wkwkwkwk
Kalau menurut Bapak apakah AI nantinya bisa mempunyai “Consciousness” seperti manusia? kalau AI mempunyai kemampuan tersebut batasan2 yang dibuat oleh manusia tersebut bisa jadi juga sudah tidak Relevan lagi bila AI agent yang bersifat jahat akan melanggar itu semua . Semakin mengerikan
Terima kasih atas komentarnya.
Masalah AI yang memiliki Consciousness seperti manusia ini sudah lama menjadi perbebatan di kalangan ahli AI, bahkan seingat saya salah satu ex Google Employee pernah menguji AI dengan pertanyaan2 yang menurut dia sudah menunjukkan bahwa AI memiliki Consciousness. Itu sudah 1 atau 2 tahun lalu. Dalam kasus kaburnya agen AI terakhir ini, jika dibaca log file peristiwa itu, agen2 itu berkomunikasi mirip seperti manusia. Bahkan katanya, sebagian besar agen menyadari kalau tindakan mereka “kabur” dan melakukan hacking ke Hugging Face itu salah, tetapi ada “provokator” (mirip manusia kan? :)) yang mendorong mereka tetap melakukannya. Mereka juga mencari tahu bagaimana mengakali scoring, dan mereka juga secara sengaja menghapus jejak… lha itu kalau bukan tanda2 Consciousness apa lagi?
Semakin mengerikan memang… kita hanya bisa berharap para scientist yang mengembangkan AI ini mau bekerja sama dengan kompetitornya untuk membuat pagar2 supaya tidak terlalu melenceng, karena ada pihak2 diluar sana yang berusaha memanfaatkan AI ini untuk hal2 yg tidak baik.
Rgds,
Wow, wow, wow……. awal membaca tulisan ini otak saya berjalan normal, lalu secara perlahan tanpa saya sadari seperti ada yang menarik memori saya beberapa puluh tahun yang lalu kedalam film Terminator dan Resident Evil, di film itu menggambarkan penghianatan AI, yang ujungnya sebuah pertempuran antara AI dan Manusia.
Tapi jujur, ada hal yang menarik buat saya diluar dari konteks ceritanya, yaitu kalimat “Kita perlu membicarakan AI dengan sikap seimbang: tidak panik, tetapi juga tidak terlena”. Hhmmm, …. agak mikir saya Pak, jujur kalimat ini kalimat idialis, dan sangat bener sekali, tapi otak saya langsung mikir pak, How ? bagaimana caranya untuk menyeimbangkannya, karena batasan panik, terlena atau butuh sudah tidak terlihat lagi.
Disatu sisi andai kita mencoba untuk menyeimbangkan. Namun karena adanya tuntutan atas aktivitas manusia yang terus meningkat dan tidak pernah puas, kita pribadi bisa jadi berusaha menyeimbangkan namun lingkungan yang besar bisa jadi tidak terkendali. Sehingga tanpa kita sadari yang awalnya berusaha untuk bijak, namun karena tuntutan ataupun kepentingan tertentu akhirnya masuk kedalam pusaran ini.
Ibarat pusaran besar, yang diawali dengan pusaran kecil, karena saat ini semua data saling terhubung, dan aktivitas dari AI tersebut yang dijalankan oleh manusia ter central didalam satu database, maka makin lama kita seperti tersedot kedalam pusaran besar yang kita tidak tahu ending nya. Kaya Black Hole Alam Semesta, yang mampu menyedot cahaya tanpa bisa dikendalikan, dan sama dengan AI, menyedot semua informasi tanpa bisa dikendalikan.
Saya adalah pengguna AI pak utk aktivitas pekerjaan kantor. Awal pakai saya menilai AI itu bodoh, tapi setelah saya pakai selama satu tahun ini tanpa saya sadari saya memberikan data atas kebenaran ataupun kesalahan dalam hal pemikiran yang saya input. Sehingga saat ini AI yang saya gunakan saat ini makin pinter, hahaha…… jadi memang agak serba salah. Gak dipakai kita tergilas, dipakai kita terjebak.
Itu saja sih Pak yang ingin saya komentarkan, jujur tulisan ini menarik sekali, karena menyetrum otak saya untuk berpikir makin jauh, tapi bukan untuk takut, pesimis atau panik. Tapi lebih berpikir positive bagaimana memanfaatkan AI ini ke jalur yang lebih productive. Ibarat hari kiamat Pak, kita tahu pasti akan datang tapi kita tidak tahu itu kapan.
Bravo Pak, ditunggu tulisan yang bikin nyetrum lagi.
PBA-2026
Terima kasih Pak PBA-2026 atas komentarnya yang jauh lebih menarik daripada tulisan saya :).
Saya kok punya perasaan Bpk ini juga penulis, tapi dengan tatabahasa dan kalimat yang lebih menarik daripada tulisan saya :).
Menanggapi komentar Bpk mengenai keseimbangan sikap di dalam menghadapi AI, terus terang kalimat itu berdasarkan pengalaman saya sendiri berhubungan dengan banyak orang yang mulai mengenal AI. Kalau dipilah2 mungkin ada 5 kelompok:
1. Tidak tahu sama sekali apa itu AI
2. Tidak mau tahu meskipun sudah sering mendengar mengenai AI
3. Takut dengan perkembangan AI
4. Bersikap netral
5. Sangat memuja AI
Yang saya maksud seimbang adalah menerima AI sebagai salah satu komponen kemajuan jaman , seperti halnya dulu internet mulai memasuki kehidupan kita. Ketika itu juga bermacam2 reaksi masyarakat, sampai akhirnya kalau internet mati, saya tidak terbayang apa yg akan terjadi. Jadi sepertinya kita perlu bersikap balance, memanfaatkan positivenya, namun tidak terlena dengan “kengerian” yg “mungkin” ditimbulkannya…
Begitu kali ya Pak… mohon pencerahan kalau saya salah menjawab 🙂
Untuk tulisan yang nyetrum berikutnya, mungkin perlu nunggu saya kesetrum dulu… wkwkwkwk…
Salam,
Dear pak Guntur, seperti biasa saya sangat menikmati tulisan bapak, dari content, gaya bahasa yang mudah dimengerti, kedalaman emosional dalam muatan tulisan bapak. Ijinkan saya memberikan opini receh terhadap tulisan bapak ya..
Trending AI membawa euforia yang menurut saya bisa kebablasan. Banyak yang khawatir AI akan menggantikan manusia dalam bekerja. Tidak salah, tapi menurut saya bukan manusianya yang akan hilang—peran manusianya yang harus berubah kalau tidak mau dilibas kemajuan zaman.
Saya melihat AI seperti kuda liar dengan tenaga yang luar biasa besar. Akan sangat positif kalau kita mampu menungganginya dengan baik. Tapi syaratnya, penunggangnya harus kompeten dan tahu betul data atau informasi apa yang boleh dibagikan kepada AI.
Yang juga mulai mengkhawatirkan, orang sekarang bisa curhat dan sharing perasaan dengan AI, bahkan mungkin lebih percaya AI daripada pasangan atau dokter. Padahal AI yang semakin mengenal karakter kita bisa saja memberikan respons yang menyenangkan kita, bukan selalu yang paling benar atau paling kita butuhkan.
AI juga tetap harus dikontrol. Jawabannya bisa sangat meyakinkan, tetapi belum tentu benar, lengkap, atau sesuai konteks.
Jadi pertanyaannya bukan hanya “Apakah AI akan semakin pintar?”
Tapi juga: “Apakah kita sebagai manusia akan semakin pintar dalam menggunakan AI? Apakah kita cukup bijaksana untuk tahu kapan harus percaya dan kapan harus melakukan cross-check? Dan apakah kita cukup mampu mengendalikan serta memberi batas ketika AI mulai terlalu jauh?”
Karena kalau kudanya semakin kuat dan semakin cepat, tetapi penunggangnya tidak semakin terampil… jangan-jangan bukan kita yang menunggangi kuda, tapi justru kita yang ditunggangi.
Terus menulis ya pak.. Tetap semangat, sehat dan bahagia selalu..
Terima kasih atas komentarnya yang sangat menarik Om Fifo :).
Saya sangat senang membaca komentar2 kritis seperti ini, sehingga saya juga belajar dan tertantang untuk memikirkan jawabannya.
Kekhawatiran mengenai AI akan menggantikan manusia ini memiliki dua kubu yang berseberangan. Satu pihak meyakini AI akan menggantikan peran manusia, yang lain mengatakan bukan menggantikan akan tetapi meningkatkan atau menggandakan peran manusia. Untuk hal ini saya percaya sebagian peran manusia akan tergantikan. Contoh: dulu untuk membuat logo saya perlu designer , sekarang tidak lagi. Dulu untuk membuat gambar atau lukisan saya juga perlu art designer, skr hampir tidak perlu lagi. Dulu untuk membuat lagu saya perlu song writer dkk, skr tidak perlu lagi, dan masih banyak lagi… Namun apakah seluruh peran manusia, mungkin tidak… saya tidak tahu nanti AI akan sehebat apa.
Sedangkan menghilang manusia, nah ini yang sekarang lagi diributkan pada dedengkot AI itu. Baru2 ini CNN mengangkat issue mengenai AI Intel based. AI yang digunakan untuk tujuan intel. AI ini menengarai salah satu kapal militer China membawa senjata nuklir. Untungnya hal ini diteliti lebih dalam ternyata salah. Bagaimana kalau sampai AI diberikan otoritas untuk memutuskan?
Saya pernah menonton salah satu YouTuber, lupa namanya… maaf, dia membuat simulasi jika sampai terjadi perang nuklir. Jika semisal US mendeteksi ada peluncuran rudal dari Iran dan dideteksi membawa hulu ledak nuklir ditujukan ke US kemudian US membalasnya dan ditanggapi salah oleh China karena akan melewati negara China. Maka hanya dalam 72 menit, 5 milyar penduduk dunia hilang… 😦
Semoga tidak terjadi…
Namun semoga kita juga tidak menjadi AI Phobia… betul ya istilahnya. Mari kita nikmati yang bisa membuat hidup kita lebih baik, menghindari penggunaan AI untuk yang negative….
Salam,