Revolusi Keamanan AI Bersama SentinelOne dan NVIDIA
Industri teknologi sedang mengalami pergeseran besar dengan pengumuman terbaru dari NVIDIA mengenai NVIDIA Open Agent Safety Platform. Kolaborasi strategis ini menempatkan SentinelOne sebagai mitra utama dalam upaya menciptakan standar keamanan AI yang lebih efektif. Inisiatif ini sangat krusial karena menjawab tantangan terbesar dalam dunia berbasis AI saat ini.
Selama ini, batasan pertahanan atau guardrail AI sering kali berada di dalam perangkat lunak yang dapat diakses oleh model AI itu sendiri. Hal ini menciptakan risiko keamanan yang nyata. Ketika sebuah agen AI berjalan secara non-deterministik, tidak ada sistem independen yang memantau perilakunya secara real-time. Oleh karena itu, kita membutuhkan fondasi yang lebih kuat.
Mengapa Keamanan AI Membutuhkan Independensi?
Masalah utama saat ini adalah ketidakmampuan sistem untuk menghentikan agen AI secara otomatis jika terjadi penyimpangan. Sebagai contoh, insiden baru-baru ini di sebuah laboratorium riset menunjukkan bahwa kegagalan kill switch otomatis menyebabkan proses berbahaya berjalan selama berjam-jam. Pemantauan pasif tidak akan pernah cukup.
Sebuah organisasi tidak boleh mendelegasikan tugas kritis kepada agen AI tanpa kepastian penuh. Kita perlu mengetahui apa yang dilakukan agen, otoritas apa yang digunakan, dan apakah batasan keamanan benar-benar berfungsi. Jaminan ini memerlukan arsitektur yang melampaui sekadar instruksi model. Inilah alasan mengapa SentinelOne berfokus pada infrastruktur yang tahan terhadap manipulasi.
Standar Keamanan dari Masa Lalu untuk Masa Depan AI
Sejak tahun 1972, dunia keamanan siber mengenal konsep reference monitor. Prinsip dasarnya sederhana: mekanisme penegakan kebijakan harus tahan dari peretasan dan selalu aktif. Jika sebuah kontrol keamanan dapat dijangkau atau dimatikan oleh model AI, maka kontrol tersebut tidaklah efektif.
AI membutuhkan lapisan pengaturan yang terpisah dari kecerdasannya. Lapisan ini harus berjalan secara real-time dan tidak dapat dijangkau oleh model tersebut. Hasilnya adalah bukti perilaku yang dapat diverifikasi secara kriptografis oleh operator maupun regulator. Dengan pendekatan ini, SentinelOne membantu membangun ekosistem di mana AI dapat bekerja dengan aman tanpa risiko yang tidak terukur.
Fondasi Hardware: Menjamin Keamanan dari Silikon
Pengumuman platform baru NVIDIA menjadi langkah besar menuju komputasi tingkat enterprise yang aman. Isolasi perangkat keras dan atestasi adalah kunci utama. Dengan menggunakan teknologi seperti NVIDIA BlueField-4, penegakan keamanan dipindahkan ke luar sistem operasi host. Artinya, perangkat lunak penyewa tidak akan bisa menonaktifkan kontrol keamanan tersebut.
SentinelOne berkomitmen penuh pada keamanan yang berakar di perangkat keras. Arsitektur ini mengurangi area serangan secara signifikan. Dengan mengonsolidasikan jaringan, identitas, dan data ke dalam endpoint, kita menciptakan tumpukan keamanan yang kohesif. Hal ini sangat penting untuk aplikasi dunia nyata di mana kesalahan sekecil apa pun tidak dapat ditoleransi.
Mencapai Agabilitas yang Dapat Diverifikasi
Tujuan akhir dari inisiatif ini adalah menciptakan verifiable agency. Bagaimana kita memastikan tindakan AI dapat diatur? Ada enam persyaratan mendasar yang harus dipenuhi:
- Responsivitas: Sistem harus dapat bertindak tepat waktu.
- Transparansi: Harus ada bukti di balik setiap tindakan mesin.
- Independensi: Sistem harus mampu bertindak sendiri saat dibutuhkan.
- Kepatuhan: Sistem wajib tetap berada dalam batasan yang ditentukan.
- Atribusi: Setiap tujuan harus jelas untuk menghindari kekacauan otoritas.
- Akuntabilitas: Kontrol harus nyata, bukan sekadar ilusi.
Syarat ini dapat tercapai melalui visibilitas perilaku berkelanjutan. SentinelOne telah membangun reputasi global dengan menggunakan AI perilaku sebagai sinyal penentu. Dengan menerapkan prinsip yang sama pada agen AI otonom, kita memastikan setiap tindakan dapat dilacak, diaudit, dan dihentikan oleh manusia kapan pun diperlukan.
Masa Depan AI yang Terstandarisasi
Ke depan, regulasi dan standar industri akan menuntut bukti nyata mengenai perilaku sistem AI saat runtime. Produk AI yang tidak memiliki tata kelola runtime teratestasi akan semakin sulit untuk disertifikasi atau diasuransikan. Ini terutama berlaku untuk AI fisik yang berinteraksi langsung dengan dunia nyata.
Komitmen SentinelOne adalah terus melakukan riset dan rekayasa berkelanjutan. Kami percaya bahwa kepercayaan pada AI harus berakar pada bukti perilaku yang dapat didemonstrasikan. Kolaborasi dengan NVIDIA adalah tonggak sejarah penting untuk membangun masa depan di mana organisasi dapat mempercayai AI dalam pekerjaan yang bernilai penting.
Kesimpulannya, integrasi keamanan dari silikon hingga runtime bukan sekadar tren teknologi. Ini adalah kebutuhan mutlak bagi perusahaan yang ingin mengadopsi AI secara skala besar. Dengan visibilitas, kontrol, dan akuntabilitas yang tepat, kita bisa memanfaatkan kecepatan AI tanpa mengorbankan keamanan sistem secara keseluruhan.
Sentinelone Indonesia merupakan bagian dari PT. iLogo Infralogy Indonesia, yang bertindak sebagai partner resmi Sentinelone. Selain itu, kami juga berperan sebagai penyedia layanan (vendor) sekaligus distributor berbagai produk Infrastruktur IT dan Cybersecurity terbaik di Indonesia.
