Ketika teknologi AI generatif terus berkembang pesat menjelang tahun 2025, tiga kebimbangan utama telah muncul di barisan hadapan perbincangan awam: keselamatan pekerjaan, perlindungan privasi, dan risiko keselamatan siber.
Dari segi pekerjaan, penyelidikan terkini menunjukkan gambaran yang bercampur-campur. Kajian McKinsey mencadangkan bahawa menjelang 2030, aktiviti yang merangkumi sehingga 30% daripada jumlah jam kerja di seluruh ekonomi AS boleh diautomasikan—satu trend yang dipercepatkan oleh AI generatif. Jawatan sokongan pejabat, khidmat pelanggan, dan perkhidmatan makanan menghadapi risiko penggantian tertinggi. Namun, bertentangan dengan ramalan yang terlalu pesimis, satu kajian dari Denmark yang meneliti 11 pekerjaan melibatkan 25,000 pekerja mendapati bahawa alat AI generatif seperti ChatGPT setakat ini hanya memberi kesan minimum terhadap gaji dan tahap pekerjaan, dengan pengguna melaporkan penjimatan masa purata hanya 2.8% daripada jam kerja.
Kebimbangan privasi semakin meningkat apabila sistem AI generatif memproses sejumlah besar data peribadi. Pakar keselamatan IBM memberi amaran bahawa sistem ini boleh secara tidak sengaja mengingati dan menghasilkan semula maklumat sensitif daripada data latihan mereka, mewujudkan apa yang dipanggil pakar sebagai 'kebocoran model'. Menurut kajian Cisco Data Privacy Benchmark 2024, walaupun 79% perniagaan sudah mendapat nilai besar daripada AI generatif, hanya separuh pengguna yang mengelak daripada memasukkan maklumat peribadi atau sulit ke dalam alat ini, sekali gus mewujudkan risiko privasi yang besar.
Kelemahan keselamatan merupakan kebimbangan utama ketiga. Penilaian kerajaan meramalkan bahawa menjelang 2025, AI generatif berkemungkinan akan memperhebatkan risiko keselamatan sedia ada berbanding mencipta ancaman baharu sepenuhnya, tetapi akan meningkatkan kelajuan dan skala ancaman dengan ketara. Kerajaan UK baru-baru ini memberi amaran bahawa AI generatif boleh membolehkan pencerobohan siber yang lebih pantas dan berkesan melalui kaedah phishing yang disesuaikan dan replikasi perisian hasad. Selain itu, keupayaan AI untuk menghasilkan deepfake dan media sintetik yang meyakinkan mengancam untuk menghakis kepercayaan awam terhadap sumber maklumat.
Ketika organisasi berlumba-lumba melaksanakan AI generatif, pakar mengesyorkan pelaksanaan rangka kerja tadbir urus data yang kukuh, termasuk peminimuman data, penyulitan, kawalan akses, dan audit keselamatan berkala. Tanpa perlindungan yang betul, teknologi yang menjanjikan lonjakan produktiviti luar biasa ini mungkin pada masa sama mendedahkan individu dan organisasi kepada risiko yang besar.
Dengan Gartner meramalkan bahawa AI generatif akan menyumbang 10% daripada semua data yang dihasilkan menjelang 2025 (berbanding kurang daripada 1% hari ini), keperluan untuk menangani kebimbangan ini menjadi semakin mendesak.