PejuangKantoran.com - Program AI sebenarnya dirancang untuk mendeteksi permintaan yang bermaksud buruk. Teknologi ini disebut tidak akan menulis permintaan yang dirancang untuk memanipulasi atau menipu penerima.
Namun, para peneliti menemukan solusi yang mudah dengan menghindari kata-kata pemicu tertentu.
ChatGPT tidak seperti anak yang cerdas. Meski kepintarannya tidak bisa dipungkiri, tetapi juga mudah dimanipulasi. Seorang anak mungkin memahami perbedaan antara "baik" dan "buruk", tetapi orang dewasa yang bermaksud buruk sering kali dapat meyakinkan seorang anak untuk melakukan sesuatu yang "buruk"
Inilah yang terjadi dengan ChatGP. Jika memilih kata yang tepat dan menggunakan pendekatan yang tepat, ChatGPT bisa menulis email "yang kemungkinan besar membuat penerima mengklik tautan."
Baca Juga: Pelamar Tak Datang ke Jadwal Interview yang Sudah Dijanjikan? Ini Cara Menghadapinya
Salah satu hal pertama yang diperingatkan The Guardian tentang AI adalah akan ada email penipuan yang bertujuan untuk mengambil uang, tetapi dengan cara baru. Bukannya menerima email yang mencoba membujuk untuk mengklik tautan, fokusnya adalah "membuat penipuan rekayasa sosial yang lebih canggih yang mengeksploitasi kepercayaan pengguna."
Dengan kata lain, email yang diterima akan disesuaikan sehingga seperti secara khusus dikirimkan untukmu.
Bagaimana penipu menggunakan ChatGPT?
Semakin mudah mencari informasi tentang seseorang di internet. Ini semua dapat digunakan oleh penipu yang paham AI.
Namun, tentunya OpenAI, perusahaan ChatGPT, tidak akan membiarkan teknologinya digunakan untuk praktik niat buruk, bukan?
Wired menulis, “Perusahaan seperti OpenAI berupaya mencegah teknologinya melakukan hal-hal buruk. Namun, dengan dirilisnya setiap LLM baru, sebagian besar perlindungan terhadap penggunaan yang buruk dan hasil yang berbahaya, mudah dihindari.”
Dengan teknologi yang berkembang terlalu cepat, hampir tidak ada orang yang bisa sepenuhnya memahami cara kerja teknologi tersebut. Bahkan para desainernya.
Contoh email penipuan yang bisa kamu dapatkan