Microsoft, yapay zeka güvenlik aracının yalnızca hataları bulmakla kalmayıp aynı zamanda düzelttiğini iddia ediyor.

Microsoft, şirketin yapay zeka yanlışlıklarıyla mücadele çabalarını geliştiren “düzeltme” adlı yeni bir özelliği kullanıma sunuyor. Yapay zeka sistemlerine güç sağlamak için Microsoft Azure kullanan müşteriler artık yapay zeka çıktılarındaki hatalı içeriği otomatik olarak tespit etme ve yeniden yazma özelliğini kullanabiliyor.

Düzeltme özelliği, güvenlik açıklarını tespit etmek, “halüsinasyonları” bulmak ve kötü niyetli istemleri engellemek için tasarlanmış bir güvenlik araçları paketi olan Azure AI Studio'nun bir parçası olarak önizlemede mevcut. Düzeltme sistemi etkinleştirildiğinde, müşterinin kaynak materyaliyle karşılaştırarak yapay zeka çıktılarındaki yanlışlıkları tarayacak ve belirleyecektir.

Bu noktadan sonra hatayı vurgulayacak, neden yanlış olduğu hakkında bilgi verecek ve söz konusu içeriği yeniden yazacaktır - tüm bunlar kullanıcı yanlışlığı “göremeden önce” yapılacaktır. Bu, yapay zeka modelleri tarafından sıkça benimsenen saçmalıkları ele almak için yararlı bir yol gibi görünse de, tamamen güvenilir bir çözüm olmayabilir.

Google'ın yapay zeka sistemleri geliştiren şirketlere yönelik bulut platformu Vertex AI, çıktıları Google Arama, bir şirketin kendi verileri ve (yakında) üçüncü taraf veri kümelerine karşı kontrol ederek yapay zeka modellerini “topraklayan” bir özelliğe sahiptir.

Microsoft sözcüsü TechCrunch'a yaptığı açıklamada, “düzeltme” sisteminin “çıktıları dayanak belgeleriyle hizalamak için küçük dil modelleri ve büyük dil modelleri” kullandığını, yani hata yapmaktan muaf olmadığını söyledi. Microsoft TechCrunch'a verdiği demeçte, “Temellendirilmişlik tespitinin ‘doğruluğu’ çözmediğini, ancak üretici yapay zeka çıktılarını temellendirilmiş belgelerle hizalamaya yardımcı olduğunu belirtmek önemlidir” dedi.