AI a softwareProč je směrování modelů těžší, než vypadá: Poučení z výzkumu IBM
Výzkum IBM ukázal, že směrování modelů v produkci je problém optimalizace systémů zahrnující náklady, latenci a složitost přesahující pouhou obtížnost úlohy.
AI a softwareVýzkum IBM ukázal, že směrování modelů v produkci je problém optimalizace systémů zahrnující náklady, latenci a složitost přesahující pouhou obtížnost úlohy.
AI a softwareNavzdory novějším architekturám DharmaOCR překonalo Mistral OCR4 a Unlimited-OCR v brazilské portugalštině díky doménové specializaci a cílenému tréninku.
Hry a kulturaGlen Schofield, spolutvůrce Dead Space a bývalý spoluzakladatel Sledgehammer Games, oznamuje odchod do důchodu po 35 letech ve vývoji her.
Hry a kulturaInkubátor NYU Tandon nabízí mentoring, workshopy a přístup k investorům pro nezávislé vývojáře her z NYC.
Nejnovější technologiePo poplachu na Redditu Valve potvrzuje, že iFixit bude nadále prodávat náhradní baterie pro Steam Deck LCD, přičemž zásoby se vrátí příští týden.
AI a softwareShippy je námořní AI agent navržený pro rozhodování s vysokými sázkami, kde špatná odpověď má reálné dopady. Zde je architektura, která za ním stojí – a ponaučení, která si odnášíme do dalších environmentálních platforem Ai2.
AI a softwareByl zjištěn neoprávněný přístup k interním datovým sadám a přihlašovacím údajům. Nebyly nalezeny důkazy o manipulaci s veřejnými modely nebo dodavatelským řetězcem.
Nejnovější technologiePozor na výrobce čipů, kteří rozdávají tiskové zprávy
AI a softwareNová kolekce NVIDIA Nemotron 3 Embed, v čele s modelem o velikosti 8B, který se umístil na prvním místě žebříčku RTEB, přináší špičkovou kvalitu vyhledávání a možnosti nasazení připravené pro produkci pro RAG, agentní vyhledávání a vyhledávání v kódu.
AI a softwareModelovací backend vLLM pro Transformery nyní dosahuje nativní rychlosti inference pro mnoho architektur LLM, což autorům modelů umožňuje používat jejich stávající kód bez portování.