Kapatma yükümlülüğü, e-posta savunması ve sağlık sınırları ayrı güvenlik araçları kuruyor
Bir Kongre tasarısı model kapatma kapasitesini, AegisAI saldırı tespitini, ChatGPT Health ise hassas kullanımda uyarı ve doğrulamayı öne çıkarıyor; üç örnek güvenliği tek bir mekanizma yerine farklı katmanlara dağıtıyor.
Yapay Zekâ··Sabah
İlk katman modeli durdurabilmek
ABD Temsilciler Meclisi'ndeki iki partili AI Kill Switch Act, eğitim hesaplama maliyeti 100 milyon dolar eşiğini aşan teknolojiden yılda en az 500 milyon dolar gelir elde eden üçüncü taraf sağlayıcılarının çıkarımı, erişimi ve sistemi durdurabilmesini; olayı 15 günde bildirmesini öngörüyor. Tasarı orantılı acil emir ile genel ihlalde günlük 2 milyon dolar, emre uymamada günlük 20 milyon dolar ceza öngörüyor. Kontrollü testler olay tanımının dışında ve teklif henüz yasa değil.[1]
İkinci katman kullanım sırasında tehdit ayıklamak
Eski Google güvenlik yöneticilerinin kurduğu AegisAI, kuralların kaçırdığı anormallikleri ve parola korumalı kötü amaçlı PDF'leri ajanlarla saptadığını söylüyor. Battery Ventures liderliğindeki 36 milyon dolar yatırım turu sonrasında toplam finansman 49 milyon dolar oldu. Kurucu, yapay zekâ destekli saldırıların kontrolleri yarıdan fazla aştığını ve eskisinden yaklaşık iki kat etkili olduğunu ileri sürüyor; bunlar şirket ve yatırımcı değerlendirmeleri. Gerçek e-posta trafiğinde bağımsız yakalama ve yanlış alarm ölçümü yayımlanmadı.[2]
Hassas kullanımda sınırlar ayrıca belirtiliyor
OpenAI, Health'i ABD'deki 18 yaş üstü kullanıcılara web ve iOS'ta kademeli açıyor; izinle Apple Health ve desteklenen hastane kayıtları bağlanabiliyor. Şirkete göre haftalık sağlık sorusu soranlar 300 milyon kişiyi aşıyor ve erken erişim konuşmalarının yüzde 70'ten fazlası özel alan dışında kalıyor; önceki sayı 230 milyon kişiydi ve farklı bir anlık görüntü olduğundan büyüme hesabı yapılamaz. GPT-5.6'nın HealthBench üstünlüğü de hasta sonucu ölçmüyor. Tasarı, e-posta savunması ve sağlık ürünü farklı güvenlik işlerini üstleniyor.[1], [2], [3]
İlgili köşe yazıları
Bu gündem hakkında daha fazla bilgi için ilgili köşe yazılarını okuyabilirsiniz.
