Evolusi cepat AI generatif merevolusi berbagai industri, mulai dari pemasaran dan permainan hingga sektor yang sangat diatur seperti keuangan dan perawatan kesehatan. Contohnya, Goldman Sachs baru-baru ini meluncurkan alat AI generatif pertamanya di seluruh perusahaan. Namun, dampak paling signifikan mungkin terjadi di bidang kejahatan siber. Dengan 70% bisnis mengidentifikasi penipuan berbasis AI sebagai tantangan terbesar kedua mereka, alat seperti video deepfake dan voice phishing memberi penjahat siber kemampuan yang belum pernah ada sebelumnya untuk mengeksploitasi individu, perusahaan, dan pemerintah. Mengejutkan, prevalensi serangan semacam itu meningkat, dengan 49% bisnis global melaporkan penipuan terkait deepfake selama tahun lalu.
Salah satu aplikasi AI generatif dalam kejahatan siber yang sangat berbahaya adalah email phishing generatif. Dengan menganalisis lalu lintas email pada skala makro dan mikro, alat AI dapat menciptakan pesan palsu yang sangat meyakinkan yang melewati langkah-langkah keamanan email tradisional. Yang membuat penipuan ini lebih mengkhawatirkan adalah kemampuan adaptasi AI generatif, yang meningkatkan kemampuannya untuk menipu bahkan karyawan yang sangat terlatih saat ia berkembang.
Untuk mengatasi ancaman berbasis AI ini, organisasi harus mengadopsi strategi pertahanan berbasis AI yang sama canggihnya. Berikut adalah beberapa cara mereka dapat memanfaatkan AI untuk memperkuat langkah-langkah keamanan siber mereka terhadap metode serangan yang berkembang ini.
