Saat ini, seiring semakin banyak perusahaan menggunakan agen AI di seluruh organisasinya, IBM (International Business Machines Corporation) meluncurkan perangkat lunak pertama di industri yang menyatukan tim keamanan dan tata kelola AI, serta memberikan pandangan terpadu terhadap risiko perusahaan.
Kemampuan baru ini meningkatkan dan mengintegrasikan watsonx.governance dan Guardium AI Security untuk membantu klien menjaga sistem AI mereka, termasuk agen- agen AI, agar tetap aman dan bertanggung jawab dalam skala besar.
IBM watsonx.governance sendiri adalah perangkat tata kelola AI komprehensif dari IBM, sedangkan Guardium AI Security adalah perangkat keamanan IBM untuk mengamankan model AI, data, dan penggunaannya. Penawaran solusi terbaru ini termasuk:
Integrasi dan otomatisasi keamanan agentic AI dari IBM
IBM meningkatkan integrasi antara IBM Guardium AI Security dan watsonx.governance, dengan menghadirkan solusi terpadu pertama bagi pelaku usaha untuk mengelola risiko keamanan dan tata kelola terkait penggunaan AI.
Integrasi ini mendukung proses pengguna dalam memastikan kepatuhan terhadap standar regulasi, dengan mengacu pada 12 kerangka kerja yang berbeda, termasuk EU AI Act dan ISO 42001.
IBM juga memperkenalkan kemampuan baru dalam Guardium AI Security melalui kolaborasi dengan AllTrue.ai, termasuk dengan kemampuan mendeteksi penggunaan AI baru di lingkungan cloud, repositori kode, dan embedded systems.
Hal ini memberikan cakupan pengawasan dan perlindungan yang luas di tengah ekosistem AI yang semakin terdesentralisasi. Setelah penggunaan AI tersebut teridentifikasi, IBM Guardium AI Security dapat secara otomatis memicu alur kerja tata kelola dari watsonx.governance.
Update terbaru pada IBM Guardium AI Security juga mencakup automated red teaming (tim keamanan yang melakukan serangan simulasi) untuk membantu perusahaan mendeteksi dan memperbaiki kerentanan dan kesalahan konfigurasi pada lintas skenario penggunaan AI.
Untuk memitigasi risiko seperti injeksi kode, kebocoran data sensitif, dan eksposur data, perangkat ini memungkinkan pengguna menentukan kebijakan keamanan khusus yang menganalisis input dan output AI. Semua fitur ini sudah tersedia saat ini di IBM Guardium AI Security dan integrasinya dengan watsonx.governance akan diluncurkan secara bertahap sepanjang tahun ini.
Evaluasi dan tata kelola siklus hidup agentic AI yang lebih canggih
IBM watsonx.governance kini dapat memantau dan mengelola agen AI sepanjang siklus hidup mereka – dari tahap pengembangan hingga implementasi.
Pengguna dapat menanamkan evaluation nodes langsung ke dalam agen, sehingga mereka bisa memantau metrik penting seperti relevansi jawaban, konteks, dan kesesuaian dengan sumber data– serta mengidentifikasi akar masalah dari performa yang buruk.
Kemampuan tambahan yang direncanakan akan tersedia mulai 27 Juni mencakup: penilaian risiko onboarding agen, jejak audit agen, dan katalog tool agentik.
Kemampuan kepatuhan siap pakai IBM watsonx.governance Compliance Accelerators menyediakan kumpulan regulasi, standar, dan kerangka kerja global yang sudah dimuat sebelumnya, sehingga memudahkan pengguna untuk mengidentifikasi kewajiban yang relevan dan memetakan ke skenario AI mereka.
Konten mencakup regulasi utama secara global seperti EU AI Act, SR 11-7 dari Federal Reserve AS, UU Lokal NYC 144, serta standar global seperti ISO/IEC 42001 dan NIST AI RMF. watsonx.governance Compliance Accelerators kini sudah tersedia sebagai fitur tambahan (add-on).
Keahlian untuk menskalakan AI secara bertanggung jawab dari IBM
Untuk membantu klien dalam mengembangkan AI secara aman dan bertanggung jawab, IBM Consulting Cybersecurity Services meluncurkan serangkaian layanan baru yang menggabungkan platform keamanan data seperti Guardium AI Security dengan keahlian AI dan konsultasi di berbagai sektor industri.
Layanan ini akan mendukung organisasi dalam seluruh perjalanan transformasi AI mereka – mulai dari menemukan penerapan AI dan potensi kerentanannya, hingga menerapkan praktik “secure-by-design” di seluruh lapisan AI, dan panduan tata kelola yang sesuai dengan regulasi yang terus berkembang.
Layanan ini dibangun berdasarkan pengalaman IBM Consulting dalam membantu ratusan klien secara global dalam hal strategi dan tata kelola AI–termasuk Nationwide Building Society dan dalam strategi dan tata kelola AI.
Kemampuan dan integrasi baru ini memberikan pelaku bisnis tata kelola dan keamanan yang komprehensif yang mereka butuhkan untuk berkembang di era Agentic AI. Inovasi ini juga selaras dengan rangkaian solusi IBM watsonx AI yang lebih luas, yang dirancang untuk membantu perusahaan mempercepat dampak AI generatif, secara bertanggung jawab dan aman.