Sektör lideri yapay zeka kapsamına ilişkin en son güncellemeler ve özel içerik için günlük ve haftalık bültenlerimize katılın. Daha fazla bilgi edin
VeriStax kurumsal yapay zeka geliştiricilerinin artan ihtiyaçlarını karşılamaya yardımcı olmak için son yıllarda veri platformunu istikrarlı bir şekilde genişletiyor.
Bugün şirket, Nvidia AI ile Oluşturulan DataStax AI Platformunun lansmanıyla bir sonraki adımı atıyor. Yeni platform, Cloud native için DataStax Astra ve kendi kendine yönetilen dağıtımlar için DataStax Hyper-Converged Database (HCD) dahil olmak üzere DataStax’ın mevcut veritabanı teknolojisini entegre ediyor. Ayrıca, şirketin yapay zeka iş akışlarının oluşturulmasına yardımcı olmak için kullanılan Langflow teknolojisini de içeriyor. Nvidia kurumsal yapay zeka bileşenleri, kuruluşun modelleri hızlı bir şekilde oluşturma ve dağıtma becerisini hızlandırmaya ve geliştirmeye yardımcı olacak teknolojiler içerir. Yığındaki Nvidia kurumsal bileşenleri arasında NeMo Retriever, NeMo Guardrails ve NIM Agent Blueprints yer alıyor.
DataStax’a göre yeni platform, yapay zeka geliştirme süresini %60 oranında azaltabiliyor ve yapay zeka iş yüklerini mevcut çözümlerden 19 kat daha hızlı işleyebiliyor.
DataStax Ürün Sorumlusu Ed Anuff, VentureBeat’e şunları söyledi: “Üretim süresi konuştuğumuz şeylerden biri; bunları oluşturmak çok zaman alıyor.” “Gördüğümüz şey, pek çok insanın geliştirme cehenneminde sıkışıp kaldığıydı.”
Langflow, kuruluşların ajansal yapay zekadan faydalanmasını nasıl sağlar?
DataStax’ın görsel yapay zeka düzenleme aracı Langflow, yeni yapay zeka platformunda çok önemli bir rol oynuyor.
Langflow, geliştiricilerin bileşenleri bir tuval üzerine sürükleyip bırakarak görsel olarak yapay zeka iş akışları oluşturmasına olanak tanır. Bu bileşenler, veri kaynakları, yapay zeka modelleri ve işleme adımları dahil olmak üzere çeşitli DataStax ve Nvidia yeteneklerini temsil eder. Bu görsel yaklaşım, karmaşık yapay zeka uygulamaları oluşturma sürecini önemli ölçüde basitleştirir.
Anuff, “Langflow’un yapmamıza izin verdiği şey, tüm DataStax yeteneklerini ve API’lerinin yanı sıra tüm Nvidia bileşenlerini ve mikro hizmetlerini birbirine bağlanabilen ve etkileşimli bir şekilde çalıştırılabilen görsel bileşenler olarak ortaya çıkarmaktır” dedi.
Langflow aynı zamanda ajansal yapay zekanın yeni DataStax platformuna da aktarılmasını sağlayan kritik bir teknolojidir. Anuff’a göre platform üç ana temsilci türünün geliştirilmesini kolaylaştırıyor:
Görev odaklı aracılar: Bu aracılar kullanıcılar adına belirli görevleri gerçekleştirebilir. Örneğin, bir seyahat uygulamasında bir temsilci, kullanıcı tercihlerine göre bir tatil paketi oluşturabilir.
Otomasyon aracıları: Bu aracılar sahne arkasında çalışır ve görevleri doğrudan kullanıcı etkileşimi olmadan gerçekleştirir. Genellikle diğer API’ler ve aracılarla iletişim kurarak karmaşık otomatik iş akışlarını kolaylaştıran API’leri içerirler.
Çoklu ajan sistemleri: Bu yaklaşım, karmaşık görevlerin uzman aracılar tarafından yürütülen alt görevlere bölünmesini içerir.
Nvidia DataStax kombinasyonu kurumsal yapay zeka için neler sağlar?
Anuff’a göre Nvidia yeteneklerinin DataStax verileri ve Langflow ile birleşimi, kurumsal yapay zeka kullanıcılarına çeşitli şekillerde yardımcı olacak.
Nvidia entegrasyonunun, kurumsal kullanıcıların standartlaştırılmış bir NIM mikro hizmet mimarisi aracılığıyla özel dil modellerini ve yerleştirmeleri daha kolay çağırmalarına olanak tanıyacağını açıkladı. Kullanıcılar, Nvidia’nın mikro hizmetlerini kullanarak bu modelleri verimli bir şekilde çalıştırmak için Nvidia’nın donanım ve yazılım özelliklerinden de yararlanabilirler.
Guardrails desteği, DataStax kullanıcılarının güvenli olmayan içerik ve mannequin çıktılarını önlemesine yardımcı olacak bir diğer önemli eklentidir.
Anuff, “Korkuluk özelliği, geliştirici ve son kullanıcı üzerinde muhtemelen en fazla etkiye sahip olduğunu düşündüğüm özelliklerden biri” dedi. “Korkuluklar temel olarak kullanıcıdan gelen, alınan veya veritabanlarından alınan güvenli olmayan içeriği tanıyabilen ve engelleyebilen bir sepet modelidir.”
Nvidia entegrasyonu aynı zamanda modelin sürekli olarak iyileştirilmesine de yardımcı olacak. Anuff, NeMo Küratörünün kurumsal yapay zeka kullanıcılarının ince ayar amacıyla kullanılabilecek ek içeriği belirleyebilmelerine olanak tanıdığını açıkladı.
Entegrasyonun genel etkisi, kuruluşların yapay zekadan daha hızlı ve uygun maliyetli bir yaklaşımla faydalanmasına yardımcı olmaktır. Anuff, bunun mutlaka tamamen GPU’lara dayanmak zorunda olmayan bir yaklaşım olduğunu belirtti.
Anuff, “Nvidia kurumsal yığını aslında GPU’ların yanı sıra CPU’lar üzerindeki iş yüklerini de yürütebiliyor” dedi. “GPU’lar daha hızlı olacak ve genellikle bu iş yüklerini koymak istediğiniz yerde olacaklar, ancak önemli olmayan alanlarda maliyet tasarrufu için bazı şeyleri CPU’lara aktarmak istiyorsanız, bunu yapmanıza izin verir.” ilave olarak.”
Kaynak
