Saya sangat menentang penggunaan AI generatif—bagi saya, ini adalah satu-dua pukulan dari kumpulan data yang sumbernya meragukan dan argumen bahwa model ini dapat menggantikan materi iklan manusia yang sering mereka rampas. Meski begitu, saya sedikit tertarik dengan penerapan AI dalam keamanan siber.
Contohnya, Microsoft baru-baru ini menyampaikan bahwa mereka menerapkan AI untuk “mengidentifikasi [issues] lebih cepat, memprioritaskan risiko, dan menskalakan penemuan kerentanan di seluruh basis kode Windows” serta “mengurangi waktu antara penemuan dan perlindungan pelanggan.” Secara khusus, Keamanan Microsoft memanfaatkan memanfaatkan pemindaian agen multi-model—atau disingkat MDASH.
MDASH menggunakan beberapa model AI yang berbeda, termasuk “model penemuan kerentanan AI pihak ketiga yang terkemuka,” pada infrastruktur Cloud khusus untuk memindai kerentanan dalam Windows.
Wakil presiden eksekutif Perangkat Windows +, Pavan Davuluri, menjelaskan, “Pipa pemindai memindai biner penting dan memvalidasi kandidat menggunakan debat multi-model di beberapa kelompok model. Kandidat yang terkonfirmasi kemudian dialirkan ke jalur pembuktian terpisah yang khusus untuk Windows yang membantu menghilangkan kesalahan positif yang tersisa, sehingga hanya temuan dengan tingkat keyakinan tertinggi yang dapat diterima oleh tim teknis.”
Berkali-kali, penekanan diberikan pada penggunaan alat AI “untuk mengurangi waktu dari penemuan hingga perlindungan,” sedangkan ‘keahlian manusia’ masih menangani keputusan dan perbaikan keamanan utama.
(Kredit gambar: Microsoft)
Davuluri menambahkan, “Ketika AI membantu para pembela HAM menemukan lebih banyak masalah, pelanggan akan melihat lebih banyak pembaruan keamanan yang disertakan dalam setiap rilis keamanan.
Microsoft bukanlah satu-satunya perusahaan yang memanfaatkan AI, dengan CTO Firefox memuji kemampuan berburu bug Claude Mythos setelah menemukan 271 kerentanan di browser awal tahun ini. Tahun lalu, kami juga melihat AI menempati posisi teratas dalam papan peringkat yang memberi peringkat pada orang-orang yang mencari kerentanan sistem.
Tentu saja, saya masih belum puas dengan kenyataan bahwa aplikasi keamanan siber ini diperlukan karena semakin banyak pelaku ancaman yang menggunakan AI dalam serangan mereka. Misalnya saja, sebuah kelompok peretas yang dibantu AI mencapai target dengan penipuan ‘rekayasa sosial’ yang rumit yang melibatkan CEO yang melakukan deepfaked, panggilan Zoom palsu, dan program pemecahan masalah yang berbahaya.
Meskipun demikian, baik LLM maupun agen AI juga dapat dimanipulasi, dan peneliti keamanan menemukan bahwa matematika yang buruk dan bahkan puisi dapat dimanfaatkan untuk menghindari batasan keamanan model AI. Dengan semua pihak memanfaatkan pembelajaran mesin sampai tingkat tertentu, sulit untuk tidak merasa bahwa ini adalah perlombaan menuju titik terbawah—atau bertanya-tanya pihak mana yang akan menang.
Rig game terbaik 2026
Semua perlengkapan favorit kami
