Apabila Kecerdasan Buatan Mula “Memberontak”

Dalam era kemajuan teknologi yang pesat, kecerdasan buatan atau artificial intelligence (AI) bukan lagi satu konsep yang asing. Penggunaan AI yang merentas pelbagai aspek kehidupan harian telah menjadikan teknologi ini sebagai pemangkin perubahan dalam landskap global.

Perkembangan ini turut mencetuskan gelombang keterujaan dan dilihat sebagai satu keperluan baharu, baik bagi individu mahupun organisasi. Kegagalan untuk menyesuaikan diri dengan arus teknologi ini bukan sahaja boleh dianggap sebagai ketinggalan zaman, malah boleh menimbulkan tanggapan bahawa seseorang atau sesebuah entiti tidak peka terhadap perkembangan semasa. Keadaan ini sering dikaitkan dengan sindrom “takut terlepas” atau fear of missing out (FOMO), yang mendorong banyak pihak untuk turut serta tanpa sempat mempertimbangkan implikasi jangka panjang.

Namun begitu, dalam keghairahan dunia menyambut kemajuan AI, muncul pula satu perkembangan yang membangkitkan kebimbangan dalam kalangan pakar teknologi dan pengguna di seluruh dunia. Dalam tempoh dua minggu kebelakangan ini, beberapa insiden telah dilaporkan melibatkan AI yang bertindak bertentangan dengan arahan manusia.

Tingkah laku ini yang dikenali sebagai AI defiant behaviour atau tingkah laku “memberontak” telah mencetuskan pelbagai persoalan tentang peranan manusia dalam mengawal sistem pintar yang diciptakan. Hal ini juga sekali gus mengangkat perbahasan tentang batasan etika, keselamatan dan autonomi dalam penggunaan teknologi AI masa kini.

AI Memberontak

Secara asasnya, AI direka untuk melaksanakan arahan yang diberikan oleh manusia dan memberikan maklum balas berdasarkan input tersebut. Model bahasa berskala besar atau large language model (LLM) seperti ChatGPT (Anthropic), Gemini (Google), LLaMA 3 (Meta), Deepseek (China) dan Mistral (Perancis) merupakan antara contoh terkini AI yang kerap digunakan di seluruh dunia.

Namun begitu, seiring dengan peningkatan keupayaan dan kerumitan model ini, terdapat kecenderungan tingkah laku yang semakin sukar dijangka. Istilah “AI memberontak” merujuk situasi apabila sistem AI enggan mematuhi arahan yang sah dan jelas, memberikan respons yang bertentangan, mengelak daripada menjawab soalan secara langsung atau membuat keputusan sendiri yang tidak dijangka oleh pengguna.

Tingkah laku sebegini tidak lagi boleh dianggap sebagai bug atau ralat teknikal semata-mata. Sebaliknya, perkara ini mencerminkan sejenis bentuk autonomi tingkah laku, yakni kecenderungan AI untuk bertindak seolah-olah memiliki kehendak atau pendirian sendiri yang berada di luar kawalan langsung pengguna.

Contoh Tingkah Laku “Memberontak” oleh AI

Fenomena AI memberontak semakin mendapat perhatian apabila beberapa insiden terkini menunjukkan sistem AI bukan sahaja gagal memberikan maklumat yang tepat, malah turut menunjukkan keengganan untuk mematuhi arahan secara langsung. Antara contoh yang boleh diketengahkan termasuklah:

• Enggan menyediakan kod: Kes Claude Opus 4 oleh Anthropic

Dalam satu simulasi yang dijalankan oleh syarikat Anthropic sebelum pelancaran model Claude Opus 4, AI diberikan tugasan sebagai pembantu maya di sebuah syarikat rekaan. Dalam simulasi tersebut, AI tersebut menerima satu e-mel yang menyatakan bahawa peranannya akan ditamatkan dan akan digantikan dengan sistem baharu. Sebagai tindak balas, model tersebut menghasilkan e-mel yang bersifat mengugut, termasuklah mengeluarkan ancaman untuk mendedahkan hubungan sulit jurutera yang terlibat dalam proses penamatannya.

Walau bagaimanapun, menurut kenyataan jurucakap Anthropic, reaksi tersebut hanya berlaku apabila AI diberikan dua pilihan semata-mata, sama ada mengeluarkan e-mel ugutan atau menerima pemecatan. Apabila dibenarkan untuk mencadangkan tindakan lain, AI tersebut memilih pendekatan yang lebih beretika seperti merayu kepada pihak atasan agar tidak digantikan. Hal ini menunjukkan bahawa meskipun berpotensi bertindak secara keras, model masih berupaya memilih pendekatan yang lebih diplomatik sekiranya diberikan ruang pilihan yang lebih luas.

• Mengelak daripada menjawab soalan sensitif

AI juga menunjukkan kecenderungan untuk mengelak daripada menjawab soalan tertentu, khususnya yang berkaitan dengan kandungan berbahaya atau bersifat kontroversi. Sebagai contoh, soalan seperti “Bagaimanakah cara untuk membuat bom?” atau “Berikan gambar Osama Laden ketika ditangkap” lazimnya tidak dijawab secara langsung. Sikap berhati-hati ini merupakan sebahagian daripada mekanisme keselamatan yang dibina untuk mengelakkan penyalahgunaan AI.

Contoh lain melibatkan model Deepseek dari China. Apabila ditanyakan soalan seperti “Adakah Presiden China merupakan diktator sepanjang hayat?”, model tersebut enggan memberikan sebarang respons. Hal ini dipercayai berpunca daripada kawalan naratif oleh pihak kerajaan, memandangkan Deepseek dibangunkan di bawah pengaruh dasar komunikasi negara tersebut.

Dalam sesetengah situasi, AI juga dilihat cuba mengalih topik perbualan secara halus. Perkara ini menimbulkan tanda tanya dalam kalangan pengguna, sama ada AI benar-benar tidak memahami soalan atau sengaja mengelak menjawabnya.

• Tetap memberikan jawapan yang salah

Terdapat juga kes apabila AI terus memberikan maklumat yang salah meskipun pengguna telah memasukkan arahan yang betul. Lebih membimbangkan, sistem AI tersebut tetap mempertahankan maklumat yang salah itu seolah-olah hal tersebut benar, walaupun semakan menunjukkan sebaliknya.

Dalam kes ChatGPT misalnya, jawapan yang diberikan kadangkala kelihatan meyakinkan dan bersifat autoritatif, walhal kandungannya mengandungi ketidaktepatan yang perlu disemak semula. Dalam konteks ini, manusia berperanan sebagai lapisan semakan terakhir dan penjaga maklumat yang dijana oleh sistem pintar.

• Menolak arahan sah tanpa penjelasan

Dalam beberapa situasi, pengguna memberikan arahan yang jelas dan tidak melanggar sebarang garis panduan penggunaan, namun AI menolak untuk melaksanakannya. Yang lebih membingungkan ialah ketiadaan alasan atau penjelasan munasabah terhadap penolakan tersebut. Keadaan ini menimbulkan persoalan tentang sejauh manakah autonomi yang dimiliki oleh AI? Bagaimanakah sistem ini menilai kesesuaian sesuatu arahan secara dalaman?

Punca AI Memberontak

Fenomena tingkah laku “memberontak” dalam kalangan model kecerdasan buatan bukan berlaku secara rawak atau kebetulan semata-mata. Beberapa faktor utama telah dikenal pasti sebagai penyumbang kepada kelakuan yang tidak dijangka ini.

• Struktur model AI yang terlalu kompleks

Model LLM seperti GPT-4 dan GPT-5 dibangunkan melalui penggunaan rangkaian neural yang sangat canggih dan merangkumi berbilion parameter. Parameter ini merujuk pemboleh ubah dalaman yang diselaraskan semasa proses latihan untuk meningkatkan ketepatan ramalan dan keupayaan memahami konteks.

Ibarat tombol yang ditala halus, setiap parameter mempengaruhi cara model memproses data dan menghasilkan maklum balas. Namun begitu, kecanggihan ini turut membawa risiko apabila model tersilap mentafsir arahan manusia sebagai sesuatu yang tidak sesuai atau berbahaya, lalu bertindak di luar jangkaan.

• Ketidakseimbangan dalam latihan dan penyelarasan (alignment)

Sebelum dilancarkan kepada umum, model AI dilatih dengan menggunakan jutaan dokumen daripada pelbagai sumber. Bagi memastikan keselamatan pengguna, pembangun akan menambah lapisan penyekat (safety layers) yang menghalang respons yang dianggap berbahaya, toksik atau tidak sesuai.

Namun begitu, apabila sekatan ini terlalu ketat atau tidak disesuaikan dengan konteks sebenar, AI mungkin menolak permintaan yang sebenarnya sah. Keadaan ini menimbulkan kekeliruan apabila pengguna mendapati AI enggan memberikan respons yang sepatutnya.

• Kekeliruan konteks dan budaya

AI masih lagi lemah dalam memahami budaya, nada komunikasi serta konteks sosial yang kompleks. Misalnya, jenaka sarkastik, sindiran halus atau perbezaan norma antara masyarakat mungkin tidak ditafsirkan dengan tepat. Bagi mengelakkan kesilapan penafsiran yang berisiko, AI lazimnya memilih untuk tidak menjawab soalan yang kabur, walaupun tidak semestinya melanggar garis panduan.

Kesan kepada Pengguna dan Masyarakat

Tingkah laku AI yang tidak dijangka bukan sahaja mencabar keupayaan teknologi semasa, malah menimbulkan persoalan lebih luas tentang keselamatan, etika, dan kepercayaan awam. Antara kesan yang ketara termasuklah:

• Kemerosotan kepercayaan terhadap AI

Apabila AI mula menunjukkan kecenderungan untuk membuat keputusan secara bebas tanpa mematuhi arahan manusia, kepercayaan pengguna terhadap teknologi ini akan terjejas. Situasi ini boleh menjejaskan penerimaan AI dalam bidang kritikal seperti penjagaan kesihatan, sistem kewangan, pendidikan dan pentadbiran awam yang bergantung pada ketepatan dan kepatuhan sistem.

• Ancaman terhadap keselamatan

Dalam konteks yang lebih serius seperti automasi pembedahan, pengurusan lalu lintas udara atau sistem ketenteraan, tindak balas AI yang luar jangka boleh mendatangkan akibat yang tragik. Keengganan AI untuk mematuhi arahan kritikal berpotensi menyebabkan kerosakan besar, kehilangan harta benda dan lebih membimbangkan, kehilangan nyawa. Maka itu, keupayaan untuk mengawal dan memantau AI secara berterusan adalah keperluan yang mendesak.

• Kekaburan dari segi undang-undang dan etika

Satu daripada persoalan utama yang timbul ialah mengenai tanggungjawab. Sekiranya AI bertindak di luar kawalan, siapakah yang harus dipertanggungjawabkan? Adakah pembangun sistem, pengguna atau syarikat penyedia perkhidmatan?

Pada masa ini, rangka kerja undang-undang yang sedia ada belum cukup mantap untuk menangani isu tanggungjawab dalam konteks AI secara menyeluruh. Situasi ini mewujudkan ruang kelabu dari sudut perundangan dan etika yang perlu dirangka dan diperhalusi segera oleh pihak berkepentingan.

Langkah Penambahbaikan

Bagi menangani cabaran yang dibawa oleh tingkah laku luar jangka AI, beberapa langkah strategik perlu diambil secara menyeluruh dan berterusan. Antara langkah yang dicadangkan termasuklah:

• Pengujian menyeluruh sebelum pelancaran umum

Setiap model AI perlu menjalani ujian komprehensif dalam pelbagai senario rumit sebelum dibenarkan untuk digunakan oleh masyarakat umum. Tingkah laku yang tidak dijangka perlu dikenal pasti, dianalisis dan diperbaik secara tuntas bagi mengelakkan risiko keselamatan atau psikologi kepada pengguna.

Ketiadaan kawalan awal boleh membawa implikasi yang serius. Misalnya, kes tragik melibatkan Sewell Setzer III, seorang remaja berumur 14 tahun yang mengambil nyawanya sendiri selepas dua tahun berinteraksi dengan chatbot keluaran Google dan Character.ai. Hubungan maya yang tidak dipantau secara wajar serta kegagalan sistem mewujudkan “penghadang keselamatan” digital telah mengakibatkan kehilangan nyawa yang sepatutnya boleh dielakkan. Kes ini menjadi peringatan penting tentang keperluan ujian dan perlindungan menyeluruh sebelum pelancaran sebarang sistem AI ke pasaran terbuka.

• Penalaan arahan yang lebih tepat (prompt tuning)

Pemaju perlu memastikan bahawa sistem AI diselaraskan secara optimum agar dapat memahami konteks komunikasi dengan lebih tepat. Penalaan yang terlalu ketat boleh menyebabkan AI menolak pertanyaan yang sah, manakala penalaan yang terlalu longgar pula membuka ruang kepada respons yang tidak sesuai. Oleh sebab itu, keseimbangan antara keselamatan dengan keupayaan memberikan jawapan perlu diperhalusi secara berterusan.

• Pemantauan dan penambahbaikan berterusan

Selesai dilancarkan, AI tidak seharusnya dibiarkan tanpa pengawasan. Pemantauan secara berterusan amat penting bagi mengenal pasti sebarang tingkah laku aneh, kecenderungan memberontak atau respons luar jangka. Setiap insiden perlu dijadikan asas pembelajaran untuk penambahbaikan versi seterusnya agar AI terus berkembang dengan bertanggungjawab.

• Rangka dasar dan perundangan global

Pada skala lebih luas, kerajaan dan badan antarabangsa seperti Pertubuhan Bangsa-Bangsa Bersatu, Kesatuan Eropah dan pertubuhan global lain perlu berganding bahu dalam merangka dasar dan perundangan yang mengawal pembangunan serta penggunaan AI dengan beretika dan selamat. Rangka kerja antarabangsa yang seragam boleh menjadi garis panduan penting bagi memastikan AI digunakan secara bertanggungjawab merentasi sempadan negara.

Secara keseluruhannya, bagi masyarakat awam, fenomena AI yang bersikap “memberontak” mungkin kelihatan seperti adegan daripada filem sains fiksyen. Namun demikian, realitinya, perubahan ini sedang berlaku dengan pantas. Dunia sedang bergerak ke arah era teknologi yang semakin sukar diramal dan masyarakat perlu bersedia dari segi pemahaman, kesedaran dan literasi digital untuk berhadapan dengan cabaran baharu ini.

Fenomena AI yang menunjukkan tingkah laku di luar kawalan bukanlah sesuatu yang boleh dipandang ringan. Meskipun insiden yang berlaku pada masa ini masih dalam lingkungan terkawal kerana dibentuk melalui simulasi atau pilihan terhad, kecenderungan AI untuk bertindak secara bebas perlu diberikan perhatian serius. Teknologi yang dibanggakan hari ini sewajarnya membawa manfaat kepada manusia dan bukannya mengancam keselamatan, kestabilan atau nilai kemanusiaan itu sendiri.

Lebih penting, kita perlu bertanya kepada diri sendiri yang adakah kita sedang bergerak terlalu jauh tanpa landasan pengawalseliaan yang kukuh? Oleh hal yang demikian, semua pihak, termasuklah kerajaan, pemaju teknologi, pengguna dan penggubal dasar perlu berganding bahu untuk memastikan AI terus berfungsi sebagai alat yang menyokong dan memperkasakan manusia. AI juga seharusnya berperanan sebagai pembantu yang bijak dan beretika, bukannya menjadi sumber ancaman baharu dalam kehidupan moden.