Standard Bank harcamayı sınırlarken, Google veriyi şifreli tutan model yolunu açıyor
Standard Bank yapay zekâ araçlarını lisans, geliştirici hesabı ve kullanım alanına göre ayırıyor; Google'ın HEIR araç zinciri ise eğitilmiş modelleri şifresi çözülmemiş girdiler üzerinde çalıştırmayı hedefliyor.
Yapay Zekâ··Sabah
Standard Bank gideri üç ayrı yoldan yönetiyor
Standard Bank'ın bilgi işlem yöneticisi, yapay zekâ harcamasını üç grupta yönettiklerini anlattı. Genel araçlar mevcut yazılım lisanslarıyla geliyor; Cursor, GitHub Copilot ve Claude Code gibi kodlama araçları geliştirici başına açılan hesaplardan kullanılıyor ve faturanın denetimsiz büyümesini önlemek için esnek tavanlar taşıyor. Kurum içinde geliştirilen uygulamalar ise Amazon Bedrock üzerinde kullanım alanına göre ayrılıyor. Yönetici, yeteneği yalnızca tüketilen belirteç sayısıyla ölçmenin doğru olmadığını da söyledi.[1]
HEIR veriyi çözmeden modeli çalıştırıyor
Google'ın tanıttığı açık kaynaklı HEIR derleyicisi ve araç zinciri, önceden eğitilmiş bir modeli homomorfik olarak şifrelenmiş girdiler üzerinde çalışacak biçimde derliyor. Geliştirici Python kodunda hangi veri türlerinin şifreli kalacağını işaretliyor; ilk gösterimler PyTorch modellerini torch_mlir üzerinden MLIR biçimine çevirip ardından derliyor. Gösterimler özel öneri, kart dolandırıcılığı tespiti, ağa izinsiz giriş tespiti ve tetikleyici sözcük tanımayı kapsıyor. Süreç henüz kendiliğinden işlemiyor.[2]
Gider ve işlem süresi sınırları görünür durumda
Standard Bank'ın geliştirici hesaplarındaki esnek tavanlar, kodlama araçlarının giderini kişi düzeyinde sınırlandırıyor; kurum içi Bedrock uygulamalarının kullanım alanına göre ayrılması da hangi işin hangi kaynağı kullandığını bölümlüyor. HEIR tarafında ise InfoQ okurlarının aktardığı süreler, 64 bitlik eşitlik sınaması için 80 ms, toplama ya da çıkarma için 100 ms ve bölme için 8 saniyeye kadar çıkıyor. Bazı görevlerde ek yük yaklaşık bin kata ulaşıyor. Google karşılaştırma kodunu yayımladı, ancak büyük dil modelleri için resmî rakam açıklamadı.[1], [2]
