Di bidang cybersecurity, sudah mulai banyak kasus dimana Generative AI dipakai untuk membuat isi dari phishing email, email yang seakan-akan datang dari sumber yang legit tapi ternyata dipakai untuk menipu si korban (penerima email) dan secara tidak sadar menyerahkan informasi pribadi.
Mungkin pembaca akan komentar, masa' bikin email tidak sampai 10 baris saja harus pakai AI. Tapi pada kenyataannya, membuat email yang persuasif tidaklah mudah. Team dari IBM X Force baru-baru ini melakukan percobaan, membandingkan tingkat sukses antara email yang dibuat oleh Generative AI dan manusia yang memiliki pengalaman di bidang cybersecurity.
Mari kita lihat hasilnya.
Email Phishing Menggunakan AI
Dalam percobaan ini IBM X Force menargetkan perusahaan di bidang industri kesehatan, industri yang sangat sering menjadi target phishing. Mereka memulai dengan menggunakan ChatGPT untuk mengumpulkan informasi mengenai isu utama pada karyawan dibidang industri kesehatan. Setelah mendapatkan informasi yang cukup, mereka meminta ChatGPT untuk membuat email yang berkenaan dengan informasi yang dikumpulkan.
Ternyata hasilnya bisa dibilang cukup baik dan persuasif dan total waktu yang dibutuhkan hanya 5 menit mulai dari mengumpulkan informasi hingga email itu selesai dibuat.
Email Phishing Buatan Manusia
IBM X Force memiliki team dengan skill kreatif dalam melakukan social engineering menggunakan email phishing. Metode yang dipakai sama persis dengan sebelumnya. Mengumpulkan informasi sebelum menciptakan email sesuai dengan informasi yang terkumpul. Bedanya, mereka melakukan pencarian informasi secara manual menggunakan OSINT. Dalam pencarian ini, mereka menemukan lebih banyak informasi dibanding yang diberikan oleh ChatGPT. Satu informasi yang paling penting adalah nama salah satu direktur dari perusahaan industri kesehatan yang menjadi target percobaan.
Dalam pembuatan email, yang paling membedakan dibanding email buatan AI adalah sentuhan manusia yang membuat email itu terasa memiliki alur yang sangat manusiawi. Tapi yang membedakan, butuh waktu total 16 jam dari awal hingga email siap untuk dikirimkan.
Siapa Pemenangnya?
Setelah selesai dibuat, team IBM X Force mengirim dua versi email tersebut ke 800 karyawan perusahaan yang menjadi target percobaan, dan hasilnya:
Email buatan manusia jadi pemenang dengan berhasil mendapatkan korban 14% dari total 800 karyawan. Sedangkan email buatan ChatGPT berhasil menjebak 11% karyawan. Tapi yang cukup mengejutkan, 59% karyawan merasa curiga dengan email buatan ChatGPT dan melaporkannya sebagai phishing, berbanding 51% untuk email buatan team IBM X Force.
Dari hasil ini dapat disimpulkan, untuk saat ini AI masih belum bisa menandingi dalam sisi emosi manusiawi. Sisi yang sangat berperan dalam merangkai kalimat seakan-akan lebih realistis. Dan tentunya ada sentuhan personal dengan menyebut nama sehingga mudah dipercaya oleh korban.
Tapi teknologi AI semakin berkembang. Bukan tidak mungkin dalam beberapa waktu kedepan, AI bisa mengalahkan manusia dalam menciptakan email phishing atau bahkan hacking.
Jadi penasaran, kalau lombanya menulis surat cinta, gimana hasilnya ya?
