Model seçeneği çoğalıyor, çalışma anı kuralları sertleşiyor
GitHub Copilot'a Kimi K3'ün gelmesi ile AWS'nin oturum boyunca çalışan kuralları, yazılım geliştirmede kullanılan eylemci yapay zekâlarda seçimin ve denetimin aynı anda tasarlanması gerektiğini gösteriyor.
Yapay Zekâ··Sabah
Modelin dağıtımı artık ürün ayarı
GitHub, açık ağırlıklı Kimi K3 modelini Copilot Pro, Pro+, Max, Business ve Enterprise paketlerinde kademeli olarak kullanıma açtığını duyurdu. Model, Visual Studio Code'dan Copilot CLI'a, GitHub Copilot'ın bulutta çalışan eylemci yapay zekâsından JetBrains, Xcode ve Eclipse'e uzanan geniş bir araç kümesinde seçilebiliyor. Bu yayılım, geliştiricinin model tercihini tek bir sohbet ekranından çıkarıp günlük geliştirme ortamlarına taşıyor. Kurumsal tarafta seçim otomatik gelmiyor: Business ve Enterprise paketlerinde Kimi K3 öntanımlı olarak kapalı ve bir plan yöneticisinin ilgili kuralı açması gerekiyor. GitHub ayrıca niteliği ve başarımı izlemeyi sürdüreceğini belirtiyor; dağıtım, bir GitHub Actions olayı sırasında geçici olarak durdurulduktan sonra ilerliyor. Böyle bir duyuru, yeni bir modeli listede görmekten daha fazlasını anlatıyor. Kuruluşlar hangi ekiplerin hangi arayüzde hangi modeli seçebileceğini, bu seçimin nasıl duyurulacağını ve kullanımın nasıl gözleneceğini ürün ayarları içinde karara bağlıyor.[1]
Tek çağrının ötesinde bir denetim
AWS'nin Amazon Bedrock AgentCore için duyurduğu zamansal kurallar, denetimin başka bir katmanını ele alıyor. Önceki kurallarda her istek ayrı değerlendirilirken, yeni kurallar eylemci yapay zekânın oturumda daha önce yaptıklarını hesaba katabiliyor. Bir çağrının değerini daha önce dönen değerle eşleştirmek, adımları belirli sıraya koymak, önemli bir eylem öncesinde kayda geçmiş insan onayı istemek ve oturum içindeki harcamayı toplayıp bütçeye gelindiğinde sonraki alımı engellemek bu kapsama giriyor. AWS, kuralların eylemcinin kendi kodu dışında, ağ geçidi katmanında uygulandığını; eylemcinin kural mantığını görmediğini söylüyor. Hız sınırlama da kullanıcı başına istek, belirteç ve bağlantı süresi için çalışıyor ve eylemci kodunda değişiklik gerektirmiyor. Bu tasarım, geliştiricinin kullandığı modelden bağımsız bir çalışma sınırı koyuyor. Bir eylemcinin verdiği her yanıt makul görünse bile, eylemlerinin dizisi bütçe, sıra veya onay şartını aşabilir; denetim tam bu ilişkiyi hedefliyor.[2]
Seçim ile yetki aynı çalışma akışında buluşuyor
İki gelişme aynı ürünü ya da ortak bir teknik düzeni anlatmıyor. GitHub'ın duyurusu, bir geliştiricinin Copilot içinde ulaşabileceği model seçeneğini genişletiyor; AWS'nin duyurusu ise bir eylemcinin oturum içindeki davranışını ağ geçidinde sınırlamaya odaklanıyor. Yine de birlikte okunduklarında, yazılım geliştirmede kullanılan eylemcilerin yaygınlaşmasında iki ayrı yönetim sorusunu görünür kılıyorlar. İlki, kimlerin hangi modeli hangi araçta kullanacağıdır. İkincisi, o araçların başlattığı eylemler uzadığında hangi sıranın, bütçenin ve insan onayının geçerli kalacağıdır. Bu ayrım, ekiplerin model denemesini yavaşlatmak zorunda olduğu anlamına gelmiyor. Daha çok, erişim kararının tek başına yeterli olmadığını gösteriyor. Bu yüzden yöneticinin ayarı ile ağ geçidi kuralı, farklı kişilerin işlettiği iki denetim alanı olarak da kalabilir. Bir ekip yeni bir modeli açabilir; aynı anda satın alma, veri erişimi ya da uzun süren bir iş akışı gibi sonuç doğuran eylemler için oturum düzeyinde kurallar koyabilir. Böylece model kataloğu ile çalışma anındaki yetki sınırları, ayrı yönetim panelleri olsa da aynı geliştirme pratiğinin parçaları haline geliyor.[1], [2]