Bahaya yang tidak kelihatan di zaman AI/Unseen harms in the AI age

[ENGLISH VERSION BELOW] Persatuan Pengguna Pulau Pinang (CAP) ingin menarik perhatian kepada potensi bahaya yang ditimbulkan oleh kecerdasan buatan (AI), walaupun masyarakat mengakui banyak kelebihannya.

AI boleh menjadi alat yang berkuasa bagi kemajuan, tetapi ia juga membawa risiko yang tidak boleh diabaikan, daripada memupuk pergantungan psikologi dan membolehkan manipulasi kepada memudahkan penipuan pada skala yang belum pernah terjadi sebelumnya.

Apa yang dipanggil “Godfather of AI”, Dr Geoffrey Hinton, telah memberi amaran kepada dunia mengenai bahaya pembangunan yang tidak terkawal, menekankan bahawa kewaspadaan diperlukan sebelum sistem ini mengatasi keupayaan kita untuk mengawalnya.

AI telah disepadukan dengan kukuh ke dalam kehidupan moden, menjana segala-galanya daripada automasi tempat kerja kepada perkhidmatan dalam talian.

Walaupun teknologi ini menjanjikan kecekapan dan inovasi, terdapat bahaya yang semakin meningkat apabila menjadi terlalu bergantung kepada AI.

Pergantungan seperti itu menimbulkan risiko dalam tiga bidang kritikal: pekerjaan dan ekonomi, hubungan sosial dan kepercayaan, dan manipulasi psikologi.

Satu contoh yang menarik adalah mengenai seorang lelaki berusia 60 tahun di Amerika Syarikat yang dimasukkan ke hospital selepas mengalami keracunan bromida apabila beliau menggantikan garam biasa dengan natrium bromida atas nasihat ChatGPT pada awal 2025.

Selepas tiga bulan penggunaan, beliau mengalami halusinasi, paranoia, keletihan dan ruam kulit, dan kini telah dirawat bagi bromisme, satu keadaan dulunya adalah biasa pada awal abad ke 20 tetapi kini jarang sekali.

Beliau pulih selepas rawatan hospital, tetapi kes itu menggambarkan bahaya bergantung pada AI bagi bimbingan perubatan tanpa pengawasan profesional.

Salah satu risiko pergantungan yang paling segera kepada AI ialah penggantian tenaga kerja manusia.

Sistem AI kini boleh melaksanakan tugas yang pernah dianggap hanya boleh dilakukan oleh manusia, mulai daripada kerja perkeranian dan kemasukan data kepada peranan dalam kewartawanan, undang-undang dan diagnostik perubatan.

Walaupun automasi mengurangkan kos dan meningkatkan produktiviti, ia juga mengancam untuk memindahkan berjuta-juta pekerja yang mungkin sukar mendapatkan pekerjaan baharu.

Gangguan ini boleh mendalamkan lagi ketidaksamaan, kerana manfaat automasi tertumpu dalam kalangan syarikat dan profesional berkemahiran tinggi, manakala yang lain akan ketinggalan.

Tanpa pengurusan yang teliti, pergantungan kepada AI boleh menyebabkan pengangguran yang lebih tinggi, gaji rendah dan tidak meningkat, dan jurang sosioekonomi yang semakin meluas.

Pada Oktober 2024, Kementerian Sumber Manusia melaporkan bahawa kira-kira 293,639 pekerjaan telah hilang di Malaysia akibat automasi dan AI antara 2020 dan September 2024.

Kebanyakan kehilangan pekerjaan ini berlaku dalam pembuatan, perdagangan borong dan runcit, perkhidmatan profesional dan saintifik, serta sektor teknologi maklumat dan komunikasi.

Melainkan rakyat Malaysia mengambil langkah untuk meningkatkan kemahiran mereka dan menyediakan diri mereka untuk bidang yang tidak dapat ditiru dengan mudah oleh AI, risiko peningkatan pengangguran akan meningkat dengan mendadak.

Melangkaui tempat kerja, AI mempunyai akibat sosial yang ketara. Memandangkan orang semakin bergantung pada algoritma untuk membuat keputusan, sama ada memilih berita, merancang perjalanan atau mengurus kewangan, kemahiran manusia yang penting seperti pemikiran kritis, penyelesaian masalah dan pertimbangan mungkin semakin lemah.

Kebergantungan yang berlebihan pada pembantu AI atau sistem pengesyoran berisiko menghasilkan pengguna maklumat yang pasif dan bukannya warga yang aktif dan arif.

Hubungan sosial juga terjejas. Rakan AI dan chatbots dipromosikan sebagai sumber keselesaan dan persahabatan, tetapi ini boleh mengurangkan interaksi manusia yang tulen.

Jika orang mula beralih kepada AI untuk sokongan emosi, mereka mungkin menjadi lebih terasing daripada keluarga dan komuniti, memburukkan lagi pemecahan sosial.

Kepercayaan terhadap institusi juga mungkin menurun jika keputusan seperti kelulusan pinjaman atau pengambilan diambil oleh algoritma legap yang nampaknya tidak boleh dipertanggungjawabkan.

Mungkin risiko yang paling berbahaya terletak pada keupayaan AI untuk memanipulasi tingkah laku. Sistem moden belajar daripada set data aktiviti manusia yang luas, memberikan mereka keupayaan yang tidak pernah berlaku sebelum ini untuk memodelkan pilihan, emosi dan kelemahan.

Dengan pengetahuan ini, AI boleh mempengaruhi pilihan secara halus melalui pengiklanan yang diperibadikan, pemesejan politik atau perbualan yang meyakinkan. Sistem ini boleh menyesuaikan respons mereka kepada profil psikologi individu, mengemudi tingkah laku dengan lembut tanpa orang itu menyedarinya.

Algoritma media sosial sudah pun mengeksploitasi ketakutan atau kemarahan untuk menarik perhatian, dan sistem AI masa depan boleh menjadi lebih berkesan dalam membentuk pendapat, menggalakkan pergantungan dan menghakis autonomi peribadi.

Penipuan menggunakan AI juga semakin meningkat. Penjenayah telah mula mengklonkan suara untuk menipu saudara-mara supaya menghantar wang dan menghasilkan video palsu untuk mempromosikan pelaburan yang menipu.

Pada 2024, Malaysia merekodkan 13,956 kes penipuan pelaburan membabitkan video palsu, menyebabkan kerugian RM2.1bn. Lebih membimbangkan, 85% mangsa telah dipujuk oleh kandungan promosi yang dijana oleh AI.

Oleh itu, bahaya pergantungan yang berlebihan kepada AI melangkaui kesilapan teknologi. Ia termasuk kehilangan mata pencarian, kelemahan ikatan sosial, dan eksploitasi kelemahan psikologi.

Jika dibiarkan, risiko ini boleh membentuk semula masyarakat kepada masyarakat yang kurang adil, kurang berhubung dan kurang bebas.

Tadbir urus yang bertanggungjawab, reka bentuk beretika dan kesedaran awam adalah penting untuk memastikan AI kekal sebagai alat di tangan manusia dan bukannya pakar halus yang membentuk pilihan manusia. – CAP

English version

Unseen harms in the AI age

The Consumers’ Association of Penang (CAP) wishes to draw attention to the potential harms posed by artificial intelligence (AI), even as society rightly acknowledges its many advantages.

AI can be a powerful tool for progress, but it also carries risks that must not be overlooked, from fostering psychological dependence and enabling manipulation to facilitating deception on an unprecedented scale.

The so-called “Godfather of AI”, Dr Geoffrey Hinton, has already warned the world about the dangers of unregulated development, stressing that vigilance is needed before these systems outpace our ability to control them.

AI has become firmly integrated into modern life, powering everything from workplace automation to online services.

While these technologies promise efficiency and innovation, there are growing dangers in becoming excessively dependent on AI.

Such dependence presents risks in three critical areas: employment and the economy, social relationships and trust, and psychological manipulation.

A striking example concerns a 60-year-old man in the United States who was admitted to hospital after developing bromide intoxication when he replaced table salt with sodium bromide on the advice of ChatGPT in early 2025.

After three months of use, he suffered hallucinations, paranoia, fatigue and skin rashes, and was treated for bromism, a condition once common in the early 20th Century but now rare. He recovered after hospital care, but the case illustrates the dangers of relying on AI for medical guidance without professional oversight.

One of the most immediate risks of dependence on AI is the replacement of human labour. AI systems can now perform tasks once thought to be uniquely human, ranging from clerical work and data entry to roles in journalism, law and medical diagnostics.

While automation reduces costs and increases productivity, it also threatens to displace millions of workers who may find it difficult to secure new employment.

This disruption could deepen inequality, as the benefits of automation are concentrated among companies and highly skilled professionals, while others are left behind. Without careful management, dependence on AI may lead to higher unemployment, depressed wages and widening socioeconomic divides.

In October 2024, the Ministry of Human Resources reported that about 293,639 jobs had been lost in Malaysia due to automation and AI between 2020 and September 2024.

Most of these losses occurred in manufacturing, wholesale and retail trade, professional and scientific services, and the information and communications technology sector.

Unless Malaysians take steps to improve their skills and prepare themselves for areas that AI cannot easily replicate, the risk of rising unemployment will increase sharply.

Beyond the workplace, AI has significant social consequences. As people increasingly rely on algorithms to make decisions – whether choosing news, planning travel or managing finances – important human skills such as critical thinking, problem solving and judgement may gradually weaken.

Excessive reliance on AI assistants or recommendation systems risks producing passive consumers of information rather than active and discerning citizens.

Social relationships are also affected. AI companions and chatbots are promoted as sources of comfort and companionship, but this can reduce genuine human interaction.

If people begin turning to AI for emotional support, they may become more isolated from family and community, worsening social fragmentation.

Trust in institutions may also decline if decisions such as loan approvals or recruitment are taken by opaque algorithms that seem unaccountable.

Perhaps the most insidious risk lies in AI’s capacity to manipulate behaviour. Modern systems learn from vast datasets of human activity, giving them unprecedented ability to model preferences, emotions and vulnerabilities.

With this knowledge, AI can subtly influence choices through personalised advertising, political messaging or persuasive conversations. These systems can adapt their responses to an individual’s psychological profile, gently steering behaviour without the person even realising it.

Social media algorithms already exploit fear or outrage to capture attention, and future AI systems could become even more effective at shaping opinions, encouraging dependency and eroding personal autonomy.

Scams using AI are also increasing. Criminals have begun cloning voices to trick relatives into sending money and producing deepfake videos to promote fraudulent investments.

In 2024, Malaysia recorded 13,956 cases of investment fraud involving deepfake videos, leading to losses of RM2.1bn. Alarmingly, 85% of victims were persuaded by AI-generated promotional content.

The dangers of excessive dependence on AI therefore extend far beyond technological faults. They include the loss of livelihoods, the weakening of social bonds and the exploitation of psychological vulnerabilities.

If left unchecked, these risks could reshape societies into ones that are less fair, less connected and less free.

Responsible governance, ethical design and public awareness are essential to ensure that AI remains a tool in human hands rather than a subtle master shaping humans’ choices. – CAP

Mohideen Abdul Kader is the president of the Consumers’ Association of Penang.

Support our work by making a donation. Tap to download the QR code below and scan this QR code from Gallery by using TnG e-wallet or most banking apps: