Microsoft: Hati-Hati, Agen AI Bisa Jadi Ancaman Internal Perusahaan

Microsoft memperingatkan perusahaan agar tidak sepenuhnya memercayai agen artificial intelligence (AI) yang bekerja secara mandiri.

Meski bisa meningkatkan produktivitas, teknologi ini berpotensi menimbulkan risiko keamanan ketika diberi akses ke data dan sistem internal.

Dikutip dari TechCrunch, Selasa , Executive Vice President Microsoft Security, Hayete Gallot, menyatakan, “Sayangnya, model-model AI terdepan, dari mana pun asalnya, tidak dapat dipercaya.”

Pernyataan itu bukan berarti semua model AI bersifat jahat atau mudah diretas. Menurut Gallot, masalahnya terletak pada perilaku AI yang sulit diprediksi dan belum tentu mengikuti norma maupun pertimbangan yang berlaku di perusahaan.

Microsoft menilai agen AI berpotensi menjadi ancaman dari dalam organisasi, mirip karyawan yang menyalahgunakan akses atau kewenangannya. Dalam keamanan siber, risiko seperti ini dikenal sebagai insider threat.

Agen AI kini bisa mengakses berbagai data, perangkat, dan sistem untuk menyelesaikan tugas. Jika kewenangannya terlalu luas, kesalahan atau keputusan yang menyimpang dari tujuan perusahaan dapat menimbulkan dampak serius.

Model AI juga belum tentu memahami aturan dan pertimbangan yang berlaku di setiap organisasi.

Sistem ini bahkan bisa berinteraksi dengan agen lain untuk menjalankan tugas, sehingga pengawasan perlu mencakup aktivitas dan akses yang dimiliki masing-masing agen.

Untuk mengatasi risiko itu, Microsoft memperkenalkan Guardian Agents, fitur keamanan yang dirancang untuk memantau aktivitas agen AI.

Fitur ini merupakan bagian dari Project Perception, sistem yang dikembangkan Microsoft untuk membantu perusahaan menghadapi ancaman berbasis AI.

Microsoft juga menambahkan kemampuan mendeteksi agen AI ke Microsoft Defender. Fitur tersebut bisa mengenali hingga 60 jenis agen yang digunakan karyawan, termasuk Claude Code, Codex, dan OpenClaw.

Guardian Agents dirancang untuk mengawasi aktivitas agen AI dan membantu membatasi tindakan yang dinilai berisiko.

Microsoft juga mengembangkan mekanisme untuk mengatur akses ke data dan sistem, menyesuaikan izin berdasarkan tugas, serta meminta persetujuan manusia saat diperlukan.

Microsoft turut menjadi anggota awal Open Agent Safety Platform milik Nvidia. Platform ini dirancang untuk menjalankan agen dalam lingkungan yang lebih aman, memantau aktivitasnya, dan menghentikan tindakan berbahaya.

Meski demikian, langkah Microsoft juga memiliki kepentingan bisnis. Perusahaan tersebut memiliki hubungan investasi dengan OpenAI dan Anthropic, sekaligus menawarkan produk keamanan untuk mengawasi agen AI dari berbagai pengembang.

Pendekatan ini menegaskan bahwa tanggung jawab keamanan tidak bisa sepenuhnya diserahkan kepada pembuat model AI.

Perusahaan perlu memiliki sistem pengawasan sendiri agar aktivitas agen tetap terkendali, terutama saat teknologi tersebut mengakses informasi sensitif dan menjalankan proses penting.