Microsoft Foundry artık, Kurumsal Yönetimli Bilgi İşlem üzerinde kurumsal düzeyde güvenlik, yönetişim ve gözlemlenebilirlik ile dağıtılabilen, özenle seçilmiş bir Hugging Face model kataloğu sunuyor. Koleksiyon haftalık olarak yenileniyor ve modeller tek tıkla Foundry Yönetimli Bilgi İşlem'e dağıtılabiliyor. Ağırlıklar Azure'da önceden hazırlanıyor, çalışma zamanları Microsoft tarafından oluşturulup taranıyor ve koleksiyondaki her model, Foundry'deki diğer tüm modeller için geçerli olan aynı kurumsal güvenlik, yönetişim, gözlemlenebilirlik ve faturalandırmaya tabi.

Microsoft Foundry ve Yönetimli Bilgi İşlem

Microsoft Foundry, aracı AI uygulamaları oluşturmak ve işletmek için bir platformdur. Herhangi bir buluttaki en geniş model seçimini sunar — Microsoft, OpenAI, Anthropic, Meta, Mistral, DeepSeek, Hugging Face ve diğerlerinden modeller — tümü tek bir uç nokta ve Python, C#, JavaScript ve Java SDK'ları aracılığıyla erişilebilir.

Bu modellerin üzerinde Foundry Aracı Hizmeti bulunur: yerleşik bellek, Foundry IQ aracılığıyla bilgi temellendirme ve bağlanabilir araçlar kataloğu ile çoklu aracı orkestrasyonu. Foundry, uçtan uca izleme, gerçek zamanlı izleme, sürekli değerlendirmeler ve değerlendirme sonuçlarına göre aracı davranışını iyileştiren bir komut istemi iyileştiricisi sağlar.

Geliştiriciler ayrıca şunlara erişebilir:

  • İçerik güvenlik filtreleri

  • Göreve bağlılık korkulukları

  • Çekişmeli test için bir AI Red Takım Ajanı

  • Birleşik RBAC

  • Özel ağ oluşturma

  • Platform içinde doğrudan Azure Policy entegrasyonu

Foundry Yönetimli Bilgi İşlem, token başına ödeme ve sağlanan iş hacminin yanı sıra üçüncü dağıtım seçeneğidir. Açık kaynak ve özel modeller için yönetilen bir GPU platformu olarak hizmet sunar. Parametre sayısı, bağlam uzunluğu ve gecikme süresi veya iş hacmi optimizasyonu ile tanımlanan bir model örneği dağıtırsınız ve Foundry alttaki GPU topolojisini halleder. Microsoft, desteklenen çalışma zamanlarında (vLLM, SGLang, TensorRT-LLM, NIM, TEI, llama.cpp) konteyner güncellemelerini, çalışma zamanı yükseltmelerini ve güvenlik yamalarını modelinizi yeniden dağıtmadan otomatik olarak halleder.

Token başına ödeme, sağlanan iş hacmi ve Yönetimli Bilgi İşlem, tek bir uç nokta, aynı SDK'lar, aynı kimlik doğrulama, aynı gözlemlenebilirlik ve tek bir faturayı paylaşır. Açık kaynak modeller, Foundry Ajanları ile sınır modelleriyle aynı şekilde entegre olur. Yönetimli Bilgi İşlem, en geniş kapasite ve en iyi fiyatlandırma için küresel dağıtımlar ve veri yerleşimi ve egemenliği için Veri Bölgesi dağıtımları sunar.

Neden Hugging Face

Hugging Face, açık AI'nın kamusal alanıdır: 15 milyon geliştirici, 400.000 kuruluş ve yayınlanmış 3 milyondan fazla açık model. Yeni sınır yetenekleri — aracı kodlama, video segmentasyonu, konuşma, gömme — haftalık olarak gelir. Açık modeller, kıyaslama üstüne kıyaslamada özel modellerle arasındaki farkı kapattı ve özel uç noktaların yapamadığı yeteneklerin kilidini açtı:

  • Son teknoloji artık açık. Önde gelen açık ağırlıklı modeller, yaygın olarak kullanılan kıyaslamalarda en iyi kapalı sınır modelleriyle rekabet ediyor.

  • Derin özelleştirme. Tam ağırlıklar, ince ayar, damıtma, niceleme ve LoRA adaptasyonuna olanak tanır.

  • Sizin modeliniz, sizin barındırmanız. Ağırlıklar, sizin kontrol ettiğiniz altyapıda kiracınızda çalışır.

  • Maliyet şekillendirme. Hızlandırıcılar için saat başı ödeyin, boştayken sıfıra ölçekleyin ve GPU'ları doğru boyutlandırın.

  • Sürüm kontrolü. Belirli bir model sürümünü sabitleyin, değerlendirin, dağıtın ve kendi yayın takviminizde geri alın.

Her zaman zor olan operasyonel katmandı: keşif, lisans incelemesi, güvenlik taraması, çalışma zamanı seçimi, GPU boyutlandırması, imaj oluşturma, CVE yamalama ve modeli kurumsal düzeyde bir uç noktanın arkasına yerleştirme. Hugging Face tek başına kurumsal bir hizmet platformu değildir.

Foundry'deki Hugging Face modelleri, Microsoft tarafından işletilen bu operasyonel katmandır.

Foundry'de Hugging Face Modelleri

Hugging Face Koleksiyonu, özenle seçilmiş bir model alt kümesini doğrudan Foundry Model Kataloğu'na getirir:

  • Haftalık olarak yenilenir — topluluk yayınladıkça trend olan modeller sürekli olarak eklenir.

  • Her modalite — metin, görüntü, ses ve çok modlu: LLM'ler, VLM'ler, ASR, konuşma çevirisi, gömmeler, segmentasyon, görüntü oluşturma.

  • Yalnızca Safetensors, güvenilmeyen kod yok — her model güvenlik taramasından geçer ve SafeTensors ağırlık formatında gönderilir, titizlikle incelenmedikçe trust_remote_code yürütme yolları yoktur.

  • Model için doğru çalışma zamanı — LLM'ler için vLLM ve SGLang, uygun olduğunda TensorRT-LLM ve NIM, gömmeler için TEI, CPU için llama.cpp.

Sizin tarafınızdan, Hugging Face Koleksiyonu'ndaki açık ağırlıklı bir model, Foundry Model Kataloğu'ndaki diğer herhangi bir model gibi görünür ve davranır. Her model, orada görünmeden önce çok aşamalı bir yayınlama hattından geçirilmiştir.

Küratörlük Hattı

Hugging Face ve Microsoft, sistematik bir küratörlük süreci aracılığıyla en popüler açık ağırlıklı modelleri Microsoft Foundry'ye getirmek için birlikte çalışır — kurumsal ortamlar için üretime hazır:

  • Hugging Face ekosisteminde topluluk sinyalleri, ortak talepleri ve müşteri ihtiyaçlarına göre trend olan modelleri belirleyin.

  • Uyumluluk ve güvenlik için tarayın — model lisansları Microsoft'un kurumsal dağıtım politikasına göre incelenir ve depolar trust_remote_code kalıpları ve özel yürütülebilir kod açısından denetlenir.

  • Çalışma zamanlarını oluşturun, tarayın ve yayınlayın — Microsoft, desteklenen çalışma zamanlarında çıkarım konteyner görüntüleri oluşturur, güvenlik açıklarına karşı tarar ve bunları dağıtıma hazır teklifler olarak yayınlar.

Bu hat, Hugging Face Koleksiyonu'ndaki her modelin güvenlik, lisanslama ve performans açısından kurumsal standartları karşılamasını sağlar. Açık kaynak AI ekosistemi gelişmeye devam ettikçe, Microsoft ve Hugging Face koleksiyonu en son topluluk yenilikleriyle güncel tutacak ve geliştiricilere deneyden üretime güvenilir bir yol sunacaktır.