Singapur, yapay zeka güvenliği için yeni kılavuzlar ve mevzuat duyurdu.

Singapur bu hafta yapay zeka (YZ) sistemlerinin güvenliğini sağlamaya yönelik kılavuz ilkeler, tıbbi cihazlar için bir güvenlik etiketi ve seçim reklam içeriklerinde derin sahteciliği yasaklayan yeni mevzuat da dâhil olmak üzere bir dizi siber güvenlik duyurusu yaptı.
Yeni Yapay Zeka Sistemlerinin Güvenliğini Sağlamaya Yönelik Kılavuz ve Tamamlayıcı Kılavuz, kuruluşların yapay zeka sistemlerinin geliştirilmesi ve dağıtımındaki potansiyel riskleri azaltabilmeleri için tasarım yoluyla güvenli bir yaklaşımı teşvik etmeyi amaçlıyor.

Singapur Siber Güvenlik Ajansı (CSA), “YZ sistemleri, kötü niyetli aktörlerin YZ sistemini kasıtlı olarak manipüle ettiği veya aldattığı düşmanca saldırılara karşı savunmasız olabilir” dedi. “YZ'nin benimsenmesi, kurumsal sistemlere yönelik mevcut siber güvenlik risklerini de artırabilir, [bu da] veri ihlalleri gibi risklere yol açabilir veya zararlı veya başka türlü istenmeyen model sonuçlarına neden olabilir.”
Devlet kurumu, “Bu nedenle, YZ, tüm yazılım sistemlerinde olduğu gibi, tasarım gereği güvenli ve varsayılan olarak güvenli olmalıdır” dedi.

Kılavuzun tedarik zinciri saldırıları gibi potansiyel tehditleri ve düşmanca makine öğrenimi gibi riskleri tanımladığını belirtti. Yerleşik uluslararası standartlar referans alınarak geliştirilen kılavuz, uygulayıcıların YZ sistemlerini korumak için güvenlik kontrolleri ve en iyi uygulamaları uygulamalarına yardımcı olacak ilkeleri içermektedir.
Kılavuzlar, geliştirme, operasyonlar ve bakım ve kullanım ömrü sonu dahil olmak üzere YZ yaşam döngüsünün beş aşamasını kapsamaktadır; bunlardan ikincisi, verilerin ve YZ model eserlerinin nasıl bertaraf edilmesi gerektiğini vurgulamaktadır.

CSA, tamamlayıcı kılavuzu geliştirmek için, “pratik” önlemler ve kontroller sunan “topluluk odaklı bir kaynak” sağlamak üzere YZ ve siber güvenlik uzmanlarıyla birlikte çalıştığını söyledi. Bu kılavuz ayrıca YZ güvenlik pazarındaki gelişmelere ayak uydurmak için güncellenecektir.
Görüntü tanıma gözetim sistemlerine yönelik yama saldırıları da dahil olmak üzere vaka çalışmaları içermektedir.
Bununla birlikte, kontroller esas olarak YZ sistemlerine yönelik siber güvenlik risklerini ele aldığından, kılavuz YZ güvenliğini veya şeffaflık ve adalet gibi diğer ilgili bileşenleri ele almamaktadır. Yine de önerilen bazı önlemlerin örtüşebileceğini belirten CSA, kılavuzun yapay zeka destekli kötü amaçlı yazılımlar veya deepfakes gibi dolandırıcılıklar gibi siber saldırılarda yapay zekanın kötüye kullanımını kapsamadığını da sözlerine ekledi.