DoorDash, modelleri ve eylemcileri yöneten ortak geçitlerin işleyişini açıkladı
DoorDash, geliştirilmesine Nisan 2023’te başlanan üretken yapay zekâ platformunun teknik işleyişini açıkladı. Ortak geçitler modellere erişim sağlıyor, bölüm giderlerini izliyor ve eylemcilerin yetkilerini yönetiyor. Şirket, sağlayıcı kotası dolduğunda başka hizmete yönlendirmeyi, insan değerlendirmesi için özel ekranları ve konuşma geçmişini ürün ekiplerinin yönetmesini anlatıyor. Bildirilen kullanım 5.000’in üzerinde iç kullanıcıyı kapsıyor; açıklama mevcut altyapının işleyişine odaklanıyor.
Yapay Zekâ··Sabah
DoorDash, tek ortak geçitten model erişimini anlattı
DoorDash adlı teslimat şirketi, ortak üretken yapay zekâ platformunun teknik işleyişini açıkladı. Model geçidi, tek uygulama arayüzü ve yazılım geliştirme araçları üzerinden farklı sağlayıcılara erişim sunuyor. Eylemci geçidi ise kimliği, yetkilendirmeyi ve eylemcilerin işlemlerinin izlenmesini yönetiyor. DoorDash, platform çalışmalarına Nisan 2023’te makine öğrenmesi mühendisleriyle başladı. Erişim daha sonra diğer mühendislere ve mühendislik dışındaki çalışanlara genişledi.[1], [2]
Platformu yöneten Swaroop Chitlur ile yazılım mühendisi Siddharth Kodwani, kullanım düzenini anlattı. Çalışma alanları tüketimi izliyor ve model giderlerini ilgili bölüme dağıtıyor. Kota sorunu olduğunda OpenAI’den Azure’a veya Claude’dan, model barındırma hizmeti Bedrock’a yönlendirme yapılabiliyor. Merkezi arayüz, isteklerle yanıtların incelenmesini sağlıyor. Ekipler kullanımın hangi işlemlerden kaynaklandığını bu ortak altyapı üzerinden görebiliyor. Satın alınan Wolt, Deliveroo ve SevenRooms şirketlerinin ekiplerinin de altyapıya katılması için çalışmalar yürütülüyor.[1]
İnsan değerlendirmesi için işe özgü ekranlar gerekiyor
Mühendisler, dışarıdan alınan değerlendirme araçlarının özel izleme, görsel değerlendirme ve insan açıklamaları için gereken iş akışlarını karşılamadığını söyledi. Menü görselini, ona bağlı etiketlerle birlikte değerlendirmek için bu işe uygun ekranlar hazırlanması gerekiyor. Ürün ekipleri açıklamalı örnekler, değerlendirme ölçütleri ve sonuç ekranları üzerinde yakın destek alarak çalışıyor. Konuşma geçmişi ile oturum yönetimi ürün ekiplerinin sorumluluğunda kalıyor. Uzun süren görevlerde çalışma ortamının yeniden başlatılması, çözülmemiş teknik sorunlar arasında.[1]
Araç erişiminde kullanıcı ve eylemci yetkileri ayrı yönetiliyor
DoorDash, araç erişiminde kullanıcıyı, eylemciyi ve sunucu geliştiricisini ayrı yetkilendirme tarafları olarak tanımlıyor. Yazma işlemleri araç düzeyindeki kurallarla ve çağrı sınırlarıyla yönetilebiliyor. Kişisel bilgilerin ayıklanması ve bazı yanıt denetimleri isteğe bağlı. DoorDash ekibi, açık ağırlıklı modellerin bir hesaplama hizmeti olan Modal üzerinde barındırılmasını, modelleri çalıştırmak için vLLM ile SGLang yazılımlarının kullanılmasını da anlatıyor. Çalışan eğitimi belgeler, yardım kanalları ve beceri eklentileriyle destekleniyor.[1]
Şirket, 5.000’in üzerinde iç kullanıcıya her gün 45 kişinin katıldığını bildiriyor. Kullanıcıların yüzde 40’ı hukuk, satış, operasyon ve strateji gibi mühendislik dışındaki ekiplerden geliyor. DoorDash, 2025’te 25’in üzerinde eylemci projesi, modelleri araçlarla bağlayan model bağlam protokolünü kullanan 50’nin üzerinde MCP sunucusu ve günlük 300.000 araç çağrısı açıkladı. Bunlar şirketin kullanım sayıları; çalışanların iş saatlerine ilişkin karşılaştırmalı bir ölçüm verilmiyor.[1]
İlgili köşe yazıları
Bu gündem hakkında daha fazla bilgi için ilgili köşe yazılarını okuyabilirsiniz.
