Eigen Radar — Yapay Zekâ / AI

Sesli Özet · Öğle (TR) — Yapay Zekâ / AI

Mon, 05 Oct 2026 00:00:00 +0000

Masanın bu baskıdaki Gündem analizlerinin sesli özeti

Audio Brief · Midday (EN) — Yapay Zekâ / AI

Mon, 05 Oct 2026 00:00:00 +0000

An audio summary of the desk's Brief analyses for this edition

Sesli Özet · Sabah (TR) — Yapay Zekâ / AI

Mon, 05 Oct 2026 00:00:00 +0000

Masanın bu baskıdaki Gündem analizlerinin sesli özeti

Audio Brief · Morning (EN) — Yapay Zekâ / AI

Mon, 05 Oct 2026 00:00:00 +0000

An audio summary of the desk's Brief analyses for this edition

Altı ticari model yönlendiricisi, aynı maliyetli basit rastgele tabanı geçemedi — Six commercial model routers fail to beat a matched-cost random baseline

Mon, 05 Oct 2026 00:00:00 +0000

Yeni ön baskı, altı ticari model yönlendiricisini 14 ayarda inceliyor. Araştırmacıların sekiz görev türünü kapsayan deneyinde hiçbir yönlendirici, iyi seçilmiş iki model arasında rastgele seçimi aynı maliyetle aşamadı. — A new preprint examines six commercial model routers across 14 configurations. On the researchers’ eight-category evaluation, none beats random selection between two well-chosen models at matched cost.

BitNest, taslak ve doğrulayıcı modeli tek ağırlık gösteriminde birleştiriyor — BitNest nests draft and verifier in one weight representation

Mon, 05 Oct 2026 00:00:00 +0000

BitNest ön baskısı, düşük hassasiyetli taslak modeli daha yüksek hassasiyetli doğrulayıcının içinde saklıyor. Yazarlar 7–8 milyar parametreli modellerde bellek tasarrufu ve FP16 tabanına göre 1,48–1,61 kat hız bildiriyor. — The BitNest preprint stores a low-precision draft inside a higher-precision verifier. Its authors report memory savings and 1.48–1.61 times speed over an FP16 baseline for 7–8-billion-parameter models.

DeReAct, ajanlarda eylem izni ile görev tamamlama kararını ayırıyor — DeReAct separates action authorization from agent completion

Mon, 05 Oct 2026 00:00:00 +0000

DeReAct ön baskısı, akıl yürütme, eylem denetimi ve doğrulanmış durum yönetimini ayrı bileşenlere bölüyor. GAIA ve SWE-bench Verified deneylerinde kazanımlar, kullanılan ana modelin gücüne göre değişiyor. — The DeReAct preprint separates reasoning, action checks and verified-state management. Gains in GAIA and SWE-bench Verified depend on the capability of the main model.

Punggol’daki robotlar yaya ışığını kablosuz etkinleştirebilecek — Punggol robots will be able to request pedestrian signals wirelessly

Mon, 05 Oct 2026 00:00:00 +0000

Singapur, teslimat ve devriye robotlarının yolu geçebilmesi için bir kavşağa dört RFID anteni kurmayı planlıyor. Büyük ölçekli denemelerin yıl sonunda başlaması öngörülüyor. — Singapore plans four RFID antennas at a junction so delivery and patrol robots can request a crossing. Large-scale trials are expected to start by year-end.

Bloomberg Intelligence, LiveBench’te ABD ve Çin modelleri arasındaki farkın daraldığını bildirdi — Bloomberg Intelligence reports a narrowing US–China model gap on LiveBench

Mon, 05 Oct 2026 00:00:00 +0000

Robert Lea’nın yeni raporunda fark yaklaşık yüzde 3 olarak veriliyor. Haberde DeepSeek V4.1 Flash’ın 81,1 puanı, Anthropic’in en yüksek 83,4 puanıyla karşılaştırılıyor. — Robert Lea’s new report puts the gap at about 3 percent. The account compares DeepSeek V4.1 Flash’s 81.1 score with Anthropic’s best score of 83.4.

Trump, Super Intelligence Force’un yönetici kadrosunu açıkladı — Trump announces the Super Intelligence Force leadership team

Mon, 05 Oct 2026 00:00:00 +0000

Jay Clayton’ın başkanlığındaki AI çalışma grubunda Andrew Ferguson, Emil Michael ve Scott Kupor başkan yardımcılığı yapacak. Trump, grubun kurulduğunu pazar günü kamuya duyurdu. — Andrew Ferguson, Emil Michael and Scott Kupor will serve as vice chairs of the AI task force led by Jay Clayton. Trump publicly announced its formation on Sunday.

Altman, yeni röportajında Anthropic ile AI riski konusundaki ayrılığı anlattı — Altman sets out AI risk differences with Anthropic in a new interview

Mon, 05 Oct 2026 00:00:00 +0000

Altman, yeni POLITICO röportajında, Anthropic ile politika tercihlerinin yakınlaşmasına rağmen kamusal erişim ve AI’ın yararları için bazı risklerin kabul edilmesini savundu. — In a new POLITICO interview, Altman says public access and AI’s benefits justify accepting some risks, despite closer policy positions with Anthropic.

IWF altı ayda 2025 toplamından fazla yapay zekâ üretimi istismar görüntüsü belirledi — IWF identifies more AI abuse images in six months than in all of 2025

Mon, 05 Oct 2026 00:00:00 +0000

Internet Watch Foundation, 2026'nın ilk yarısında yapay zekâyla üretilmiş 6.310 çocuklara yönelik cinsel istismar görüntüsünü değerlendirdi; sayı, 2025 toplamını aştı. Kurumun politika sorumlusu bağlayıcı yapay zekâ düzenlemeleri istedi. — The Internet Watch Foundation assessed 6,310 AI-generated child sexual abuse images in the first half of 2026, exceeding its full-year 2025 count. Its policy head called for binding AI legislation.

Trump yeni yapay zekâ grubunu yönetecek yetkilileri açıkladı — Trump specifies officials leading his new AI task force

Mon, 05 Oct 2026 00:00:00 +0000

Trump, yeni grubun yönetiminde Clayton’ın yanında Ferguson, Michael ve Kupor’u da açıkladı. — Trump named Ferguson, Michael and Kupor alongside Clayton in the new task force leadership.

Altman yapay zekânın yararları için bazı zararların göze alınmasını savundu — Altman argues AI benefits justify accepting some harms

Mon, 05 Oct 2026 00:00:00 +0000

Altman’ın POLITICO röportajı, geniş yapay zekâ erişimini ve bazı risklerin kabulünü daha kısıtlayıcı yaklaşımla karşılaştırıyor. — Altman’s POLITICO interview contrasts broad AI access and acceptance of some risks with a more restrictive approach.

AMBER, görsel aramada hesaplama bütçesini belirsiz karşılaştırmalara yöneltiyor — AMBER allocates visual-search compute to uncertain comparisons

Mon, 05 Oct 2026 00:00:00 +0000

Yeni AMBER ön baskısı, görsel-dil modeliyle yeniden sıralamada sabit çağrı dağılımı yerine uyarlanabilir bütçe kullanıyor. Yazarlar üç veri kümesinde, karşılaştırılabilir çağrı bütçeleri altında sıralama kazanımları bildiriyor. — The new AMBER preprint replaces fixed call schedules in vision-language reranking with adaptive budgets. Its authors report ranking gains on three datasets under comparable model-call budgets.

TaSQ, bir bitlik önbellek için niceleme uzayını yeniden düzenliyor — TaSQ reshapes quantization space for a one-bit cache

Mon, 05 Oct 2026 00:00:00 +0000

TaSQ ön baskısı, uzun bağlamlı dil modellerinin anahtar-değer önbelleğinde bir bitlik sıkıştırmayı inceliyor. Araştırmacılar RTX 6000 Ada deneyinde daha büyük topluluk ve 1,87 kat tepe üretim hızı bildiriyor. — The TaSQ preprint studies one-bit compression of long-context language-model key–value caches. Researchers report larger batches and 1.87 times peak throughput in an RTX 6000 Ada experiment.

LEAP, küçük taslak modeli ajan eylemlerini öngörmek için eğitiyor — LEAP trains a small draft model to propose agent actions

Mon, 05 Oct 2026 00:00:00 +0000

LEAP ön baskısı, 600 milyon parametreli taslak modeli hedef ajanın eylem kayıtlarıyla eğitiyor. Araştırmacılar dört görev kümesinde bütün görev süresine göre 1,10–1,63 kat hızlanma bildiriyor. — The LEAP preprint trains a 600-million-parameter draft on a target agent’s action traces. Researchers report 1.10–1.63 times whole-task speedup across four benchmarks.

DyRA, hızlandırılmış matris işlemlerinin çıktı hatasını çalışma anında düzeltiyor — DyRA corrects approximate matrix outputs during inference

Mon, 05 Oct 2026 00:00:00 +0000

DyRA ön baskısı, yapılandırılmış ağırlık yaklaşımının hatasını girdiye göre düzeltiyor. Yazarlar DINOv3 deneylerinde yaklaşık 1,5 kat GPU hızını, yalnızca ağırlık yaklaşımına göre daha düşük doğruluk kaybıyla bildiriyor. — The DyRA preprint corrects structured weight-approximation errors using the current input. Its authors report roughly 1.5 times GPU speed on DINOv3 with less accuracy loss than weight-only approximation.

Foresight, canlı videoda sonraki algılama adımını önceden planlıyor — Foresight plans the next perception step in streaming video

Mon, 05 Oct 2026 00:00:00 +0000

Foresight ön baskısı, yeniden eğitim olmadan bir görsel-dil modelinin videoyu ne zaman tekrar inceleyeceğini planlıyor. Araştırmacılar sabit Qwen3-VL-8B ile üç akış değerlendirmesinde kazanım bildiriyor. — The Foresight preprint plans when a vision-language model should inspect streaming video again without retraining. Researchers report gains on three streaming evaluations with a frozen Qwen3-VL-8B backbone.

LiteTrajEval, ajan hatalarını tek değerlendirme çağrısıyla yerelleştiriyor — LiteTrajEval localizes agent failures with one judging call

Mon, 05 Oct 2026 00:00:00 +0000

LiteTrajEval ön baskısı, ajan yürütme kayıtlarını sınırlı bütçeyle tek modele sunuyor. Yazarlar küçük, hata içeren iki veri kümesinde AgentRx karşısında daha düşük değerlendirme maliyeti ve daha iyi hata bölgesi eşleşmesi bildiriyor. — The LiteTrajEval preprint presents bounded agent traces to one model judge. On two small failed-trajectory datasets, its authors report lower evaluation cost and better failure-region alignment than AgentRx.

Dil modeli ajanları sayısal mesajlarda rastgele olmayan düzenler üretiyor — Language-model agents produce structured numerical messages

Mon, 05 Oct 2026 00:00:00 +0000

Dört model ailesini oyunlarda sınayan yeni ön baskı, doğal dil kullanılmadan üretilen sayısal mesajlarda düzen buluyor. Alıcı kararları bu mesajlarla ilişkili; ortak bir gizli anlam sistemi kanıtlanmış değil. — A new preprint tests four model families in games and finds structure in numerical messages without natural-language communication. Receiver decisions are associated with those messages, but a shared hidden code is not established.

Görsel modelde bozulmuş iç temsil, yanlış çıktı anlamına gelmeyebiliyor — Corrupted visual representations need not produce wrong outputs

Mon, 05 Oct 2026 00:00:00 +0000

Qwen2.5-VL üzerinde yeni ön baskı, saldırının iç temsili bozmasına rağmen serbest üretimin doğru açıklamayı koruyabildiğini buluyor. Araştırma 200 COCO görüntüsü ve tek hedef açıklamayla sınırlı. — A new Qwen2.5-VL preprint finds that an attack can corrupt internal representations while free generation retains a correct description. The study is limited to 200 COCO images and one target caption.

echo-k, görev etiketi olmadan sıradaki ölçümü seçmeyi öğreniyor — echo-k learns which measurement to acquire without task labels

Mon, 05 Oct 2026 00:00:00 +0000

echo-k ön baskısı, bütün verileri almak yerine model temsilini koruyan ölçümleri sırayla seçiyor. Öğrenme hedefi görev etiketi değil, önceden eğitilmiş modelin tam veriyle oluşturduğu iç temsil. — The echo-k preprint selects measurements sequentially rather than acquiring every input. Its learning target is the pretrained model’s full-data representation, not downstream task labels.

İddia doğrulamada yeniden yazım doğruluktan önce güveni değiştiriyor — Rewriting shifts confidence before accuracy in claim verification

Mon, 05 Oct 2026 00:00:00 +0000

Yeni ön baskı, bilimsel şekil ve tablolarla doğrulanan iddiaların yeniden yazımını 11 görsel-dil modelinde sınıyor. Çoğu modelin doğruluğu korunurken ihtiyatlı dil, destekleme olasılığını değiştiriyor. — A new preprint tests rewritten claims against scientific figures and tables using 11 vision-language models. Most retain accuracy, while cautious wording shifts the probability of support.

OLMo-Detect, eğitim verisi üyeliği ölçümündeki karıştırıcıları kontrol ediyor — OLMo-Detect controls confounders in training-membership tests

Mon, 05 Oct 2026 00:00:00 +0000

OLMo-Detect ön baskısı, bir metnin model eğitiminde kullanılıp kullanılmadığını ölçen yöntemleri daha sıkı eşlenmiş verilerle sınıyor. En iyi denetimli ve denetimsiz yöntemlerin ortalama AUC değeri 0,68. — The OLMo-Detect preprint tests training-membership inference using more tightly matched data. The best supervised and unsupervised methods each reach average AUC of 0.68.

Metni insanlaştırma istemi, bir dedektörde saptamayı kolaylaştırdı — Humanizing prompts make text easier for one detector to spot

Mon, 05 Oct 2026 00:00:00 +0000

RoBERTa tabanlı dedektörü inceleyen ön baskıda Mistral ile yeniden yazım, sözcük çeşitliliğini ve saptanabilirliği artırıyor. Resmî insan metinleri de sık yanlış işaretleniyor; sonuç tek dedektör ve İngilizceyle sınırlı. — A preprint examining a RoBERTa detector finds that Mistral rewrites increase lexical diversity and detectability. Formal human writing is frequently mislabeled; findings are limited to one detector and English.

Strata, yerel çıkarıma eşzamanlı istek ve Responses API desteği ekledi — Strata adds concurrent local inference and Responses API support

Mon, 05 Oct 2026 00:00:00 +0000

Yeni sürüm, birden fazla konuşmayı birlikte işleme seçeneği ve Codex CLI bağlantısı getiriyor. Eski GPU yolları deneysel olarak sunuluyor. — The release adds an option to process several conversations together and connect Codex CLI. Paths for older GPUs remain experimental.

Güney Kore, AI bağlantısı araştırılan banka saldırılarında denetimi genişletti — South Korea expands checks on bank attacks with suspected AI links

Mon, 05 Oct 2026 00:00:00 +0000

Yeni açıklamalar, Welcome Savings Bank ve iki çevrimiçi kredi kuruluşunda da veri sızıntısı olduğunu ortaya koydu. Yetkililer tüm finans sektörünü acil denetime çağırdı. — Fresh disclosures identified leaks at Welcome Savings Bank and two online lending firms. Authorities called the financial sector into an emergency review.

ABD’de 100’ü aşkın kırsal veri merkezi projesi yeni vergi avantajına uygun olabilir — Over 100 rural US data-center projects could qualify for new tax benefits

Mon, 05 Oct 2026 00:00:00 +0000

Yeni yer eşleştirmesi, planlanan veya yapımı süren veri merkezlerinin kırsal fırsat bölgesi teşviklerinden yararlanabileceğini ortaya koyuyor. Uygunluk, teşvikin alındığı anlamına gelmiyor. — New location-matching research identifies planned or unfinished data centers that could qualify for rural opportunity-zone benefits. Eligibility does not establish that a benefit has been claimed.

LINE, Japonya’da takvimden yararlanan buluşma planlama ajanını kullanıma açtı — LINE launches calendar-assisted scheduling agent in Japan

Mon, 05 Oct 2026 00:00:00 +0000

LINE Yahoo, sohbet gruplarında buluşma günü öneren ve katılım yanıtlarını hazırlamaya yardım eden ajanı 5 Ekim’de Japonya’da kullanıma açtı. — LINE Yahoo began offering an agent that proposes meeting dates and helps participants prepare availability responses in Japanese group chats on October 5.

Rozetta, Japonca-İngilizce çeviride yeni modunu erken erişime açtı — Rozetta opens early access to new Japanese–English translation mode

Mon, 05 Oct 2026 00:00:00 +0000

Rozetta, T-4OO’nun yeni çeviri modunu 5 Ekim’de erken erişime açtı. Şirketin yüz binde üç düzeltme oranı iddiası, şirket içi kullanım kılavuzu değerlendirmesine dayanıyor. — Rozetta opened early access to a new T-4OO translation mode on October 5. Its claimed 0.003% correction rate comes from an internal evaluation of manuals.

NEC, yapay zekâ destekli güvenlik hizmeti için Avrupa merkezi planını açıkladı — NEC announces European hub plan for AI-assisted security service

Mon, 05 Oct 2026 00:00:00 +0000

NEC, CyIOC güvenlik hizmetinin Avrupa merkezini Nisan 2027’de açmayı, Japonya-Avrupa-ABD arasında sürekli izleme düzenini Temmuz 2027’de kurmayı planlıyor. — NEC plans to open a European hub for its CyIOC security service in April 2027 and establish coordinated Japan–Europe–US monitoring in July 2027.

LINE, sohbet içinde buluşma planlayan eylemciyi Japonya’da kullanıma açtı — LINE opens its chat-based scheduling agent in Japan

Mon, 05 Oct 2026 00:00:00 +0000

LINE Yahoo, buluşma günleri ve katılım yanıtları öneren yeni özelliğini 5 Ekim’de LINE Labs üzerinden sundu. — LINE Yahoo introduced the feature through LINE Labs on October 5, offering candidate meeting dates and assistance with availability responses.

Rozetta, yeni T-4OO çeviri modunun erken erişimini başlattı — Rozetta starts early access to its new T-4OO translation mode

Mon, 05 Oct 2026 00:00:00 +0000

Rozetta, Japonca-İngilizce ve İngilizce-Japonca çeviri için yeni modunu 5 Ekim’de kullanıma sundu. — Rozetta began offering its new mode for Japanese-to-English and English-to-Japanese translation on October 5.

NEC, CyIOC için Avrupa merkezi ve üç bölgeli izleme planını açıkladı — NEC announces a European hub and three-region monitoring plan for CyIOC

Mon, 05 Oct 2026 00:00:00 +0000

NEC, Avrupa merkezini Nisan 2027’de açmayı ve Temmuz 2027’de üç bölgeyi eşgüdümlü çalıştırmayı planlıyor. — NEC plans a European centre for April 2027 and coordinated operations across three regions from July 2027.

Watt: Strata’da kısa kuyruk, daralan uzman önbelleği — Strata’s shorter queue takes memory from its expert cache

Mon, 05 Oct 2026 00:00:00 +0000

Yerel çıkarımda eşzamanlı oturumlar bekleme süresini azaltırken GPU belleğini yeniden bölüştürüyor. Strata’nın geliştirici ölçümleri, aynı kartta toplam çıktı ile erken hizmet arasında bir tercih ortaya koyuyor.

Aynı kartın iki hizmet hedefi

Strata’da dört konuşmanın birlikte çalışması, GPU belleğini yeniden paylaştırıyor. Yerel çıkarım motorunun geliştiricisi, RTX 5070 üzerindeki Q2_0 deneyinde son isteğin başlama süresini 11,2 saniyeden 1,8 saniyeye indirdiğini bildiriyor. Aynı denemede toplam üretim hızı saniyede 70,7 belirteçten 63,1 belirtece düştü. Bekleyen kullanıcı daha erken hizmet alırken kartın toplam çıktısı azaldı. Bu iki sonuç, aynı donanımda farklı hizmet hedeflerine karşılık geliyor.^[1]

Her açık oturum uzman önbelleğinden 0,56 GiB alıyor. Modelin kullandığı uzman parçalarını GPU’da tutan bu alan daraldığında, eşzamanlılık için yer açmanın bedeli mevcut işin hızına yansıyor. Geliştirici, tek isteğin bile iki yuva açıkken yüzde 11, dört yuva açıkken yüzde 22 yavaşladığını bildiriyor. Kart aynı kart; daha fazla oturum açmak, model parçaları için ayrılmış bellekle kullanıcı oturumlarının belleğini birbirine rakip hale getiriyor.^[1]

Benim buradan çıkardığım işletme tercihi şu: bir kartın verimini değerlendirirken toplam belirteç üretimiyle sıradaki kullanıcının bekleyişini birlikte ölçmek gerekiyor. Kısa süreli bir istek yığılmasında daha erken başlama değerli olabilir; sürekli yoğun işte toplam çıktının düşmesi daha ağır basabilir. Bellek açıklaması bu tercihe somut bir neden veriyor. Bununla birlikte, oturumları birlikte yönetmenin yazılım gideri de yavaşlamaya katkı yapabilir; açıklanan deney bu etkileri ayrı ayrı ölçmüyor.^[1]

Belleği ayırmak, donanımda çalıştırmak

Strata bu yüzden eşzamanlılığı isteğe bağlı tutuyor ve uzmanların çoğu GPU belleğine sığıyorsa öneriyor. Uzun istem, parça sınırında kısa isteğe yol verebiliyor; boş yuva kalmadığında yeni konuşmalar bekliyor. Tek başına kalan istek sırayla işleme yoluna dönüyor. Kullanıcının önündeki tercih, bilgisayarda daha çok konuşma açarken hangi belleği ve hangi bekleme süresini önceliklendireceği.^[1]

Donanımın genişlemesi de farklı teslim aşamalarında. Pascal ve Volta için CUDA 12.9 motoru derlenmiş durumda; geliştiricinin elinde bu kartlar bulunmuyor. Intel Arc yolu Linux’ta kaynak koddan derleniyor, çekirdek testleri CPU aygıtında yapılmış ve hazır Intel motoru sunulmuyor. Yeni seçenekleri kullanacak kişi, kendi kartında çalışan uygulamaya ulaşmak için deneysel yoldan geçiyor. Derlemenin tamamlanması, o kartta sürdürülen hizmet kapasitesinin ölçülmesinden önceki aşama.^[1]

Bir sonraki yararlı karşılaştırmada aynı kart, model ve istemler korunup eşzamanlı oturum sayısı değiştirilebilir. Toplam üretim hızı, son isteğin başlama süresi ve önbelleğe ayrılan bellek birlikte verildiğinde, daha kısa kuyruğun hangi çıktı bedeliyle geldiği anlaşılır. Strata’nın bu sürümünde kararın merkezi, mevcut GPU belleğinin bölüşümü. Sıraya öncelik veren kurulumla toplam üretime öncelik veren kurulum, aynı karttan farklı hizmet almayı seçiyor.^[1]

Kaynakça

[Haber kaynağı] Strata · 4 Ekim 2026 — Strata, yerel çıkarıma eşzamanlı istek ve Responses API desteği ekledi ↩1 ↩2 ↩3 ↩4 ↩5 ↩6

Concurrent local inference redistributes GPU memory while reducing waits. Strata’s developer measurements expose a choice between aggregate output and earlier service on the same card.

Two service objectives on one card

Running four conversations together in Strata redistributes GPU memory. The local inference engine’s developer reports that the final request started after 1.8 seconds rather than 11.2 seconds in a Q2_0 experiment on an RTX 5070. In that same experiment, combined generation speed fell from 70.7 to 63.1 tokens per second. The waiting user received service sooner while the card produced less overall. Those outcomes describe different service objectives on the same hardware.^[1]

Each open session takes 0.56 GiB from the expert cache, the GPU space holding expert components used by the model. Shrinking that space to accommodate concurrency imposes a cost on the work already running. The developer reports that even a lone request slowed by 11 percent with two slots enabled and 22 percent with four. The card is unchanged; opening more sessions makes session memory compete with memory allocated to model components.^[1]

My operational reading is that a card’s usefulness should be judged using both total token production and the next user’s wait. Earlier starts may matter during a short burst of requests; reduced aggregate output may weigh more heavily under sustained load. The memory explanation gives that choice a concrete mechanism. Software overhead from managing sessions together could also contribute to the slowdown, however; the published experiment does not measure those effects separately.^[1]

Allocating memory and delivering hardware support

Strata therefore keeps concurrency optional and recommends it where most experts fit in GPU memory. A long prompt can yield to a shorter request at a chunk boundary, new conversations wait when no slot is free, and a lone request returns to the sequential path. The practical choice is which memory allocation and waiting-time objective to prioritise when opening more conversations on the computer.^[1]

Hardware expansion is also at several delivery stages. A CUDA 12.9 engine has been compiled for Pascal and Volta, but the developer has neither card family. The Intel Arc path builds from source on Linux, its kernel tests used a CPU device, and no packaged Intel engine is supplied. Users of these options take an experimental route to an application running on their own card. Completing a build precedes measuring sustained service capacity on that device.^[1]

A useful next comparison would hold the card, model and prompts constant while varying concurrent sessions. Reporting combined generation speed, the last request’s start delay and memory allocated to the cache together would show the output cost of a shorter queue. In this Strata release, the central decision concerns allocation of existing GPU memory. A setup prioritising the queue and one prioritising aggregate production choose different services from the same card.^[1]

References

[News source] Strata · October 4, 2026 — Strata adds concurrent local inference and Responses API support ↩1 ↩2 ↩3 ↩4 ↩5 ↩6

Watt: BitNest’te hızın paydası eylem süresi — BitNest’s speed needs an action-time denominator

Mon, 05 Oct 2026 00:00:00 +0000

Aynı ağırlıkları paylaşmak bellek kazancı sağlıyor. OpenVLA deneyinde ise başlangıç işleme maliyeti, daha hızlı belirteç üretimini toplam eylem gecikmesine taşıyamıyor.

Kısa üretim, uzun eylem

BitNest’in OpenVLA-7B deneyinde aynı robotik eylemin belirteç üretim aşaması 135,6 milisaniyeden 100,8 milisaniyeye düşüyor. Fakat toplam eylem süresi 201,5 milisaniyeden 212,7 milisaniyeye çıkıyor. Araştırmacıların kendi ölçümünde hızlanan bölüm, kullanıcının beklediği bütün işi hızlandırmıyor. Görsel kodlama bu iki toplamın da dışında; açıklanan sınır içinde bile kazanç kayboluyor. Bir kontrol sistemi için karşılaştırılacak sayı, yalnızca son altı belirtecin üretim hızı değil, eylemi hazırlamakla üretmek arasındaki toplam bekleyiş.^[1]

Başlangıç işleme aşaması 65,9 milisaniyeden 111,7 milisaniyeye çıkıyor. Makale bunun mekanizmasını da veriyor: küçük matrisli üretim yolu paketlenmiş düşük bitli ağırlıkları doğrudan okuyor; büyük başlangıç matrislerinde mevcut uygulama ağırlıkları FP16 biçimine açıp cuBLAS kullanıyor. Niceleme ve diğer dönüşümlerin ek işi burada kalıyor. Sonuç, bellek trafiğini azaltan gösterimin her hesaplama aşamasında aynı verimi sağlamadığını gösteriyor.^[1]

Bellekteki kazancı ayrı tutalım

Bu gecikme sonucu, BitNest’in bellek kazanımını silmiyor. Taslak 4 bitlik tabanı okuyor; doğrulayıcı ek düzeltme düzlemiyle 8 bitlik gösterime erişiyor. Ayrı taslak ağırlığı saklanmıyor. Jetson Orin NX 16 GB üzerinde LLaMA-2-7B-32K için PyTorch tepe ayırması FP16 ile 13,9 GiB, W8A8 ile 8,2 GiB, BitNest ile 7,7 GiB. Aynı deneyin sistem genelindeki tepe belleği de raporlanıyor. Tahsis edilen model belleğiyle cihazın bütün bellek kullanımını eşitlemek bu farkı saklıyor.^[1]

Jetson karşılaştırmasında tek doğru payda da yok: FP16 ayrı bir hassasiyet noktası, W8A8 ise zaten sıkıştırılmış taban. Araştırmacıların verdiği üretim hızları sırasıyla 6,0 ve 7,8 belirteç/saniye; BitNest 9,0–9,3 aralığında. Belleği dar bir cihazda ikinci fark daha doğrudan karar desteği sağlıyor, çünkü niceleme kazancını taslak düzeninin ek kazancından ayırıyor. Alternatif açıklama, hızın yalnızca iç içe gösterimden değil, ayarlanmış bellek okuma çekirdeklerinden de gelmesi; makale bu çekirdek iyileştirmesini ayrıca ölçüyor.^[1]

Karar cihazdan ve işten çıkıyor

Donanımı seçen ekip için bu çalışma iki ayrı mühendislik sonucu taşıyor: sınırlı belleğe sığan uzun bağlam ve eylem başına toplam gecikme. Jetson’da çalıştırılabilir bağlamın büyümesi, OpenVLA’daki başlangıç yükünü ortadan kaldırmıyor; robotik deneydeki yavaşlama da dil modeli belleğindeki tasarrufu hükümsüz bırakmıyor. BitNest bir ön baskı ve bu ölçümler araştırmacıların düzeneğine ait. Uygulama seçiminin dayanağı, aynı cihazda aynı işin bütün aşamalarıyla karşılaştırılması. Darboğazın adı bu örnekte bellekten başlangıç işlemeye geçiyor.^[1]

Kaynakça

[Haber kaynağı] arXiv · 5 Ekim 2026 — BitNest, taslak ve doğrulayıcı modeli tek ağırlık gösteriminde birleştiriyor ↩1 ↩2 ↩3 ↩4 ↩5

Shared weights deliver a memory gain. In the OpenVLA experiment, prefill overhead prevents faster token decoding from becoming a faster complete action.

Shorter decoding, longer action

In BitNest’s OpenVLA-7B experiment, decoding for the same robotic action falls from 135.6 milliseconds to 100.8 milliseconds. Yet total action time rises from 201.5 milliseconds to 212.7 milliseconds. In the researchers’ own measurements, the faster component does not accelerate the complete job. Visual encoding is excluded from both totals, so the gain disappears even within that disclosed boundary. For a control system, the relevant comparison is the combined wait for preparing and generating an action, rather than just the rate of producing its final six tokens.^[1]

Prefill rises from 65.9 milliseconds to 111.7 milliseconds. The paper explains the mechanism: small-matrix decoding reads packed low-bit weights directly, whereas the current large-matrix prefill path dequantizes weights to FP16 and uses cuBLAS. Quantization and other transformations remain additional work. A representation that reduces memory traffic therefore does not deliver the same benefit in every computational phase.^[1]

Keep the memory gain separate

The latency result does not erase BitNest’s memory gain. Drafting reads a 4-bit base and verification adds a refinement plane to recover an 8-bit representation. No separate draft-weight copy is stored. On Jetson Orin NX 16 GB, LLaMA-2-7B-32K has reported PyTorch peak allocations of 13.9 GiB with FP16, 8.2 GiB with W8A8 and 7.7 GiB with BitNest. System-wide peak memory is reported separately in that experiment. Equating allocated model memory with all device memory would conceal that distinction.^[1]

There is more than one useful denominator on Jetson: FP16 is a different precision point, while W8A8 is already a compressed baseline. The researchers report decoding rates of 6.0 and 7.8 tokens per second respectively, with BitNest at 9.0–9.3. For a memory-constrained device, the latter comparison is more directly useful because it separates quantization savings from the additional drafting gain. An alternative explanation is that acceleration comes partly from tuned memory-access kernels rather than nesting alone; the paper separately measures that kernel improvement.^[1]

The decision follows the device and workload

For a team choosing hardware, the study provides two separate engineering outcomes: longer executable context within limited memory, and total latency per action. The larger context on Jetson does not remove OpenVLA’s prefill overhead; slower robotic actions do not invalidate the language-model memory savings. BitNest is a preprint and these measurements belong to the researchers’ setup. An implementation decision rests on comparing the same complete workload on the same device. In this example, the bottleneck moves from memory traffic to prefill.^[1]

References

[News source] arXiv · October 5, 2026 — BitNest nests draft and verifier in one weight representation ↩1 ↩2 ↩3 ↩4 ↩5

Sesli Özet · Gece (TR) — Yapay Zekâ / AI

Sun, 04 Oct 2026 00:00:00 +0000

Masanın bu baskıdaki Gündem analizlerinin sesli özeti

Audio Brief · Night (EN) — Yapay Zekâ / AI

Sun, 04 Oct 2026 00:00:00 +0000

An audio summary of the desk's Brief analyses for this edition

Sesli Özet · Akşam (TR) — Yapay Zekâ / AI

Sun, 04 Oct 2026 00:00:00 +0000

Masanın bu baskıdaki Gündem analizlerinin sesli özeti

Audio Brief · Evening (EN) — Yapay Zekâ / AI

Sun, 04 Oct 2026 00:00:00 +0000

An audio summary of the desk's Brief analyses for this edition

Sesli Özet · Öğle (TR) — Yapay Zekâ / AI

Sun, 04 Oct 2026 00:00:00 +0000

Masanın bu baskıdaki Gündem analizlerinin sesli özeti

Audio Brief · Midday (EN) — Yapay Zekâ / AI

Sun, 04 Oct 2026 00:00:00 +0000

An audio summary of the desk's Brief analyses for this edition

Sesli Özet · Sabah (TR) — Yapay Zekâ / AI

Sun, 04 Oct 2026 00:00:00 +0000

Masanın bu baskıdaki Gündem analizlerinin sesli özeti

Audio Brief · Morning (EN) — Yapay Zekâ / AI

Sun, 04 Oct 2026 00:00:00 +0000

An audio summary of the desk's Brief analyses for this edition

Sesli Özet · Gece (TR) — Yapay Zekâ / AI

Sat, 03 Oct 2026 00:00:00 +0000

Masanın bu baskıdaki Gündem analizlerinin sesli özeti

Audio Brief · Night (EN) — Yapay Zekâ / AI

Sat, 03 Oct 2026 00:00:00 +0000

An audio summary of the desk's Brief analyses for this edition

Sesli Özet · Akşam (TR) — Yapay Zekâ / AI

Sat, 03 Oct 2026 00:00:00 +0000

Masanın bu baskıdaki Gündem analizlerinin sesli özeti

Audio Brief · Evening (EN) — Yapay Zekâ / AI

Sat, 03 Oct 2026 00:00:00 +0000

An audio summary of the desk's Brief analyses for this edition

Sesli Özet · Öğle (TR) — Yapay Zekâ / AI

Sat, 03 Oct 2026 00:00:00 +0000

Masanın bu baskıdaki Gündem analizlerinin sesli özeti

Audio Brief · Midday (EN) — Yapay Zekâ / AI

Sat, 03 Oct 2026 00:00:00 +0000

An audio summary of the desk's Brief analyses for this edition

Sesli Özet · Sabah (TR) — Yapay Zekâ / AI

Sat, 03 Oct 2026 00:00:00 +0000

Masanın bu baskıdaki Gündem analizlerinin sesli özeti

Audio Brief · Morning (EN) — Yapay Zekâ / AI

Sat, 03 Oct 2026 00:00:00 +0000

An audio summary of the desk's Brief analyses for this edition

Sesli Özet · Gece (TR) — Yapay Zekâ / AI

Fri, 02 Oct 2026 00:00:00 +0000

Masanın bu baskıdaki Gündem analizlerinin sesli özeti

Audio Brief · Night (EN) — Yapay Zekâ / AI

Fri, 02 Oct 2026 00:00:00 +0000

An audio summary of the desk's Brief analyses for this edition

Sesli Özet · Akşam (TR) — Yapay Zekâ / AI

Fri, 02 Oct 2026 00:00:00 +0000

Masanın bu baskıdaki Gündem analizlerinin sesli özeti

Audio Brief · Evening (EN) — Yapay Zekâ / AI

Fri, 02 Oct 2026 00:00:00 +0000

An audio summary of the desk's Brief analyses for this edition

Sesli Özet · Öğle (TR) — Yapay Zekâ / AI

Fri, 02 Oct 2026 00:00:00 +0000

Masanın bu baskıdaki Gündem analizlerinin sesli özeti

Audio Brief · Midday (EN) — Yapay Zekâ / AI

Fri, 02 Oct 2026 00:00:00 +0000

An audio summary of the desk's Brief analyses for this edition

Sesli Özet · Sabah (TR) — Yapay Zekâ / AI

Fri, 02 Oct 2026 00:00:00 +0000

Masanın bu baskıdaki Gündem analizlerinin sesli özeti

Audio Brief · Morning (EN) — Yapay Zekâ / AI

Fri, 02 Oct 2026 00:00:00 +0000

An audio summary of the desk's Brief analyses for this edition

Sesli Özet (TR) — Yapay Zekâ / AI

Thu, 01 Oct 2026 00:00:00 +0000

Masanın o güne ait Gündem analizlerinin sesli özeti

Audio Brief (EN) — Yapay Zekâ / AI

Thu, 01 Oct 2026 00:00:00 +0000

An audio summary of the desk's Brief analyses for the day

Sesli Özet (TR) — Yapay Zekâ / AI

Wed, 30 Sep 2026 00:00:00 +0000

Masanın o güne ait Gündem analizlerinin sesli özeti

Audio Brief (EN) — Yapay Zekâ / AI

Wed, 30 Sep 2026 00:00:00 +0000

An audio summary of the desk's Brief analyses for the day

Sesli Özet (TR) — Yapay Zekâ / AI

Tue, 29 Sep 2026 00:00:00 +0000

Masanın o güne ait Gündem analizlerinin sesli özeti

Audio Brief (EN) — Yapay Zekâ / AI

Tue, 29 Sep 2026 00:00:00 +0000

An audio summary of the desk's Brief analyses for the day