0
0
harfam.co.id, JAKARTA — Microsoft telah membuat beberapa fitur keamanan yang mudah digunakan untuk pelanggan Azure. Microsoft mengatakan alat yang didukung LLM ini dapat mendeteksi kerentanan dengan memantau kerentanan yang ‘diterima tetapi tidak didukung’.
Azure AI memblokir permintaan berbahaya secara real-time untuk pelanggan yang bekerja dengan model apa pun yang dihosting di platform. Sarah Bird, chief product officer AI, mengatakan tidak semua pelanggan memiliki keahlian untuk mendeteksi serangan injeksi cepat atau konten berbahaya.
“Jadi sistem pengujian menghasilkan instruksi yang diperlukan untuk mensimulasikan serangan jenis ini, sehingga pelanggan bisa mendapatkan poin dan melihat hasilnya,” ujarnya, seperti dilansir The Verge, Jumat (29/3/2024).
Hal ini membantu menghindari konflik yang disebabkan oleh AI yang disebabkan oleh respons yang tidak diinginkan atau tidak terduga. Mirip dengan Microsoft Designer, jawaban generator gambar Google Gemini dan Bing.
Prompt Shields memblokir perintah berbahaya dari skrip eksternal. Pekerjaan melihat dunia mendeteksi dan menutup ilusi. Fitur penilaian keamanan menilai kerentanan model, kini ada di pameran Azure AI.
Dua fitur lainnya menandai pengguna yang kesulitan mengarahkan model ke hasil yang aman dan tips pelacakan. Microsoft telah beralih ke AI untuk meningkatkan keselamatan dan keamanan perangkat lunaknya.
Hal ini terutama karena semakin banyak pelanggan yang tertarik menggunakan Azure untuk mengakses model AI. Perusahaan juga berupaya memperluas jumlah model AI canggih yang ditawarkannya. Alat terbaru adalah penandatanganan perjanjian eksklusif dengan perusahaan AI Perancis, Mistral. Tujuannya adalah untuk menyediakan model Mistral yang besar di Azure.
