C# Araçları Kullanarak Yapay Zeka Ajanları Nasıl Oluşturulur?

Ana Sayfa » Python » C# Araçları Kullanarak Yapay Zeka Ajanları Nasıl Oluşturulur?

C# araçlarıyla yapay zeka ajanları oluşturmak artık fütüristik bir hayal değil; iş akışlarını otomatikleştirmek, verileri analiz etmek ve .NET uygulamalarınızı büyük dil modelleriyle (LLM'ler) bağlamak için oldukça pratik bir yöntemdir.Doğru mimariyle, basit bir sohbet istemcisinden, mantık yürüten, API'leri çağıran, iş akışlarını düzenleyen ve güvenlik, gözlemlenebilirlik ve maliyet kontrolü gibi kurumsal kısıtlamalara saygı duyan, üretim kalitesinde ajanlara geçiş yapabilirsiniz.

Bu kılavuz, modern yapay zeka ajanı kavramlarının C# yığınına nasıl eşlendiğini, Azure OpenAI ve OpenAI Assistants API'nin nasıl entegre edildiğini ve her şeyin sağlam .NET yazılım mühendisliği uygulamalarına nasıl dahil edileceğini adım adım açıklamaktadır.Ayrıca bu fikirleri Microsoft'un Visual Studio Code'daki yeni ortaya çıkan ajan çerçeveleri ve yapay zeka araçlarıyla da birleştireceğiz, böylece yerel prototipten ölçeklenebilir bulut dağıtımına kadar eksiksiz bir görünüm elde edeceksiniz.

C# ile chatbotlardan tam teşekküllü yapay zekâ ajanlarına

Genel olarak, yapay zekâ ajanı, tekil komutlara cevap vermek yerine hedeflere ulaşmayı amaçlayan bir sistemdir.Bu, ajanın yalnızca mevcut turda ne yanıt vereceğine değil, bir sonraki adımda ne yapacağına karar verebilmesi için akıl yürütme, araçlar, bağlam farkındalığı ve hafızanın bir kombinasyonuna ihtiyaç duyduğu anlamına gelir.

Pratik C# terimleriyle, bir ajanı, bir LLM istemcisinin üzerinde yer alan bir koordinasyon katmanı ve .NET yöntemleri, API'ler veya harici hizmetler olarak sunulan bir dizi araç olarak düşünebilirsiniz.Model, mantıksal çıkarım ve dil anlama yeteneğine katkıda bulunurken, C# kodunuz iş mantığı, veri erişimi, güvenlik ve mevcut sistemlerinizle entegrasyonlara katkıda bulunur.

Modern ajanlar genellikle karar verme, arama algoritmaları veya planlama mantığı için büyük dil modellerine güvenirler, ancak ancak araçlara bağlandıklarında gerçekten kullanışlı hale gelirler.Araçlar arasında veritabanı sorguları, HTTP API'leri, dahili mikro hizmetler, dosya arama veya ajanın veri analizi kodunu güvenli bir şekilde çalıştırabileceği korumalı bir kod yorumlayıcısı yer alabilir.

Bağlam farkındalığı, ajanın akıl yürütmesinin bir parçası olarak sohbet geçmişini, vektör veri tabanlarını, kurumsal verileri veya bilgi grafiklerini kullanmasına olanak tanıyan son kritik unsurdur.Bu bağlam, bellekte tutulan kısa bir konuşma kaydı kadar basit veya birden fazla aracı ve veri deposunu kapsayan dağıtılmış bir iş akışı durumu kadar karmaşık olabilir.

Yapay zekâ asistanlarının ve ajanlarının temel yapı taşları

OpenAI ve Azure OpenAI Assistants API'leri, C# ile ajanlar oluşturmak için size çok somut bir dizi temel öğe sunar.Elle durum makineleri oluşturmak yerine, LLM tabanlı ajanların düşünme ve çalışma biçimleriyle eşleşen, iyi tanımlanmış varlıklarla çalışırsınız.

Bir asistan, yapılandırılmış yapay zeka kişiliğini temsil eder: hangi modeli kullandığı, hangi talimatları izlediği ve hangi araçları çağırmasına izin verildiği gibi.C#'da bu, ad, sistem talimatları ve modelin neleri çağırabileceğini açıklayan araç tanımları listesi gibi seçeneklerle oluşturduğunuz bir nesneye karşılık gelir.

Konuşma dizisi, bir kullanıcıyı zaman içinde bir asistana bağlayan konuşma oturumudur.Bu iş parçacığı, mesajların sıralı listesini saklar, belirteç sınırları içinde kalmak için bağlam kesintilerini otomatik olarak ele alır ve bu etkileşim için aracının hafızasının omurgası görevi görür.

Mesajlar, kullanıcı ile asistan arasında akan somut içerik parçalarıdır.Yardımcılar API'sinde, bir mesaj düz metin, resim veya diğer dosyaları içerebilir. C#'ta, içeriğe bağlı olarak metni, açıklamaları veya ilişkili dosya kimliklerini inceleyerek bunları bir koleksiyondaki nesneler olarak tüketirsiniz.

Çalıştırma, asistanın bir ileti dizisinin içeriği üzerinde akıl yürütmesini başlatan işlemdir.Bir çalıştırma başlattığınızda, yardımcı program yapılandırmasını uygular, mesajları okur, gerektiğinde araçları çağırır ve ardından sonuçlarını içeren yeni mesajları aynı iş parçacığına geri ekler.

Çalıştırma adımları, asistanın bir çalıştırma sırasında gerçekleştirdiği eylemlerin ayrıntılı sırasını yakalar.Bu kayıtları inceleyerek hangi araçların çağrıldığını, hangi argümanların iletildiğini, hangi mesajların oluşturulduğunu ve ajanın nihai cevabına nasıl ulaştığını görebilirsiniz. Bu, kurumsal ortamlarda hata ayıklama, gözlemlenebilirlik ve denetim için son derece değerlidir.

Bu temel unsurların yanı sıra, asistanlar görevleri tamamlamak için birden fazla aracı paralel olarak kullanabilirler.Tipik yerleşik araç türleri arasında, korumalı bir çalışma ortamında kod parçacıklarını çalıştırabilen bir kod yorumlayıcı, özel fonksiyon çağırma (kendi .NET fonksiyonlarınızın araç olarak sunulması) ve modeli harici bilgilerle genişleten dosya arama yetenekleri bulunur.

Kullanılan araçlar: kod yürütme, fonksiyon çağrıları ve dosya arama

Araçlar, pasif bir dil modelini .NET uygulamanız içinde işleri gerçekten halledebilen yetenekli bir ajana dönüştüren şeydir.Model, yalnızca metin döndürmek yerine, kullanıcının isteğine en iyi şekilde yanıt vermenin yolu buysa, bir fonksiyon çağırmaya, kod çalıştırmaya veya dosya deposunda arama yapmaya karar verebilir.

Kod yorumlayıcı aracı, ajanın veri analizi, görselleştirme veya temel simülasyonlar gibi görevler için izole bir ortamda kod yazmasına ve çalıştırmasına olanak tanır.C#'tan, bu kodu doğrudan çalıştırmazsınız; yardımcıyı kod yorumlayıcı özelliğiyle yapılandırır ve ardından oluşturduğu görüntüler veya yapılandırılmış sonuçlar gibi ürettiği çıktıları geri okursunuz.

Fonksiyon çağrısı, kendi alan mantığınızı modelin seçip çağırabileceği araçlar olarak ortaya koyar.Her bir fonksiyonu meta verilerle tanımlarsınız: ad, amaç ve parametre şeması. Ardından asistan, kullanıcı girdisine ve ara mantığa dayanarak bu fonksiyonların ne zaman tetikleneceğini seçerken, C# uygulamanız doğrulama, hatalar ve zaman aşımı işlemlerini yönetir.

Dosya arama araçları, ajanın yanıtlarını dokümantasyon, raporlar veya bilgi tabanları gibi harici verilere dayandırmasına olanak tanır.Dosyaları yüklersiniz, vektör depoları veya indeksler oluşturursunuz ve asistana bunlara erişim izni verirsiniz. Buradan itibaren model, ilgili içerik parçalarını alabilir ve bunları yanıtlarına dahil ederek olgusal doğruluğu ve izlenebilirliği artırabilir.

Temel tasarım prensiplerinden biri, araçların güvenli ve dayanıklı olması, güçlü girdi doğrulaması, hata yönetimi ve net kaynak sınırlarına sahip olmasıdır.LLM'nin bunları ne zaman çağıracağına karar vermesine rağmen, iş kurallarını, hız sınırlarını ve veri erişim politikalarını uygulama sorumluluğu tamamen C# kodunuza aittir.

Azure OpenAI ile minimal bir .NET konsol uygulaması aracısı oluşturma

Tüm bunları somutlaştırmak için, OpenAI veya Azure OpenAI Assistants API'siyle iletişim kuran basit bir .NET konsol uygulamasıyla başlayabilirsiniz.Bu tür minimal projeler, tamamen kodda yaşayan ancak zaten araçlar, dosyalar ve diyalog dizileri kullanan prototip ajanlar için mükemmeldir.

İlk adım, .NET konsol projesini oluşturmak ve OpenAI ve Azure OpenAI istemcilerine erişmenizi sağlayan gerekli SDK paketlerini eklemektir.Bu ayarlar yapıldıktan sonra, API anahtarınızı kullanarak genel bir OpenAI istemcisi veya Azure OpenAI uç noktanıza işaret eden ve DefaultAzureCredential gibi bir kimlik bilgisi kullanan Azure'a özgü bir istemci örneği oluşturabilirsiniz.

Genel istemciden özel istemciler türetilir: yardımcıları, iş parçacıklarını ve çalıştırmaları yönetmek için bir yardımcı istemci ve dosyaları yüklemek ve indirmek için bir dosya istemcisi.Bu ayrım, hangi işlemlerin yapılandırma ve düzenleme ile ilgili olduğunu, hangilerinin ise ham dosya işleme ile ilgili olduğunu netleştirir.

Ardından, gerçek iş verilerini simüle etmek için doğrudan C# kodunuzun içinde bellek içi bir belge akışı oluşturabilirsiniz.Örneğin, farklı ürün kimlikleri için aylık satış metriklerini içeren küçük bir JSON belgesi tanımlayabilir ve bunu dosya istemcisinin yükleyebileceği bir akışa dönüştürebilirsiniz.

Dosya asistan kullanımı için yüklendikten sonra, platform size yeni bir vektör deposuna bağlayabileceğiniz ve asistana dosya arama kaynağı olarak ekleyebileceğiniz bir dosya tanımlayıcısı döndürür.Aynı asistan yapılandırmasında, kod yorumlayıcısını da etkinleştirirsiniz; böylece ajan yalnızca değerleri aramakla kalmaz, aynı zamanda grafikler veya daha gelişmiş analizler de oluşturabilir.

Yardımcı seçeneklerini bir ad, talimatlar ve araç tanımlarıyla hazırladıktan sonra, gpt-4o gibi bir modelle desteklenen yardımcıyı oluşturursunuz.Ayrıca, başlangıçta kullanıcı mesajı içeren bir iş parçacığı da yapılandırabilirsiniz; örneğin, belirli bir ürünün zaman içindeki performansını sormak ve görselleştirme talep etmek gibi.

Yardımcı istemci, tek bir çağrıyla iş parçacığını oluşturmanıza ve hemen çalıştırmaya başlamanıza, ardından çalıştırma durumunu sonlanana kadar yoklamanıza olanak tanır.Bu yoklama döngüsü, komut satırı araçları için basit ama etkilidir; web veya arka plan hizmeti ortamında, bunun yerine olay odaklı veya eşzamansız modellere geçebilirsiniz.

Çalıştırma tamamlandıktan sonra, ileti dizisindeki mesajları artan sırada geri aktarırsınız ve asistanın yanıtlarını konsola yazdırırsınız.Her bir içerik parçası için metni, girdi veya çıktı dosyalarına atıfta bulunan açıklamaları ve kod yorumlayıcısı tarafından oluşturulan ve daha sonra diske kaydedip konsol çıktısında basit bir yer tutucu etiketle günlüğe kaydettiğiniz tüm görüntüleri inceleyebilirsiniz.

Devlet yönetimi, hafıza ve konuşma tasarımı

Basit örneklerin ötesine geçtiğiniz anda, durum ve bellek C# ajan tasarımınızda merkezi konular haline gelir.Buradaki zorluk, konuşma geçmişinin sınırsız bir şekilde büyümesi, modellerin ise katı belirteç sınırlarına sahip olması ve ayrıca uyumluluk, analiz veya hata ayıklama için verileri saklamanız gerekmesidir.

Yaygın stratejilerden biri, her kullanıcı veya kullanım durumu için ayrı konuşma dizileri veya oturumlar oluşturmak ve periyodik olarak konuşmayı özetleyerek yalnızca en alakalı bağlamı korumaktır.Özetler modelin kendisi tarafından oluşturulabilir ve daha sonra yapılandırılmış meta verilerle birlikte bir veritabanında veya vektör deposunda saklanabilir.

Daha gelişmiş bir yaklaşım, neyin saklanacağına, sıkıştırılacağına veya atılacağına karar verirken anlamsal önemi kullanır.En eski mesajları basitçe kırpmak yerine, içerikleri konulara, varlıklara veya iş süreçlerine göre etiketler veya indekslersiniz ve yeni bir çalıştırma için gereken bağlamı yeniden oluşturmak üzere hedefli sorgular çalıştırırsınız.

C#'ta bellek, genellikle hızlı erişim için işlem içi önbellekler ve dayanıklılık ve denetlenebilirlik için kalıcı depolama alanlarının bir kombinasyonu olarak uygulanır.Bu, yapılandırılmış meta veriler için ilişkisel bir veritabanını, yapılandırılmamış içerikte anlamsal arama için vektör veritabanıyla eşleştirmek anlamına gelebilir; bunların tümü, temsilcilerinizin altta yatan teknolojiyi önemsemeden çağırabileceği depo arayüzlerinin arkasında gizlidir.

Düşünceli diyalog tasarımı da önemlidir: LLM'nin etki alanınızın sınırları içinde kalarak etkili bir şekilde akıl yürütmesini sağlayacak sistem talimatları, araç açıklamaları ve kullanıcı istemleri oluşturmalısınız.Bu, temsilcinin ne zaman açıklayıcı sorular sorması gerektiği, ne zaman bir araç çağırması gerektiği ve yetki alanı dışında kalan bir isteği ne zaman reddetmesi gerektiği konularını içerir.

Araçlar; C# fonksiyonları, API'ler ve harici hizmetler olarak tanımlanabilir.

Gerçek uygulamalarda en güçlü araçlar, ajanın dahili sistemlerinizde iş akışını koordine edebilmesi için kullanıma sunulan kendi alan fonksiyonlarınızdır.Bunlar arasında bilet oluşturma, müşteri kayıtlarını sorgulama, finansal hesaplamalar yapma veya mevcut mikro servislerinizdeki iş akışlarını tetikleme gibi işlemler yer alabilir.

Her bir araç için, ne yaptığını, hangi girdileri beklediğini ve ne döndürdüğünü açıklayan zengin meta veriler sağlamanız gerekir; ideal olarak bu veriler makine tarafından okunabilir bir şemada olmalıdır.Bu, LLM'nin doğru aracı seçmesine, geçerli argümanlar oluşturmasına ve sonuçları doğru yorumlamasına yardımcı olarak yanılgıları ve hatalı sonuçları azaltır.

Uygulama tarafında, C#'taki her araç işleyici, savunmacı programlama gerektirir: sıkı girdi doğrulaması, sağlam istisna yönetimi ve makul zaman aşımı süreleri.Ajan, iş açısından mantıklı olmayan şeyler deneyebilir; kodunuz, modelin her zaman tahmin edilebilir şekilde davrandığını varsaymak yerine, politikalar uygulamalıdır.

Ayrıca, her araç çağrısını, çağıran kullanıcıyı, tetikleyici komut istemi bölümünü ve sonucu kaydetmek de akıllıca olacaktır.Bu size net bir denetim izi sağlar, güvenlik incelemelerini destekler ve hangi araçların en etkili olduğunu veya ek güvenlik önlemlerine ihtiyaç duyduğunu belirlemenizi sağlar.

.NET'te çoklu ajan orkestrasyonu ve iş akışları

Senaryolarınız daha karmaşık hale geldikçe, tek bir ajanın yeterli olmadığını ve birlikte çalışan birden fazla uzmanlaşmış ajana ihtiyaç duyabileceğinizi fark edebilirsiniz.Örneğin, bir temsilci araştırma ve veri toplamaya, bir diğeri analize, üçüncüsü ise kullanıcı dostu çıktılar hazırlamaya odaklanabilir.

Kavramsal olarak, bu, .NET geliştiricilerinin zaten bildiği iş akışı kalıplarıyla iyi örtüşüyor: sıralı adımlar, paralel dallanmalar, aktarımlar ve denetleyici roller.Kodlanmış mantık yerine, ajanlar yapılandırılmış mesajlar ve paylaşılan bir çalışma alanı aracılığıyla koordinasyon sağlıyor, ancak orkestrasyon kalıpları tanıdık geliyor.

Ardışık iş akışları, bir ajanın çıktısını doğrudan bir sonrakine aktarır; bu da gereksinim toplama, tasarım, uygulama ve inceleme gibi doğrusal görevler için idealdir.Paralel iş akışları, birden fazla ajanın bir problemin farklı yönlerini aynı anda işlemesine ve daha sonraki bir adımda sonuçlarını birleştirmesine olanak tanır.

Devir teslim modelleri, güven eşikleri, içerik kategorileri veya kullanıcı eylemleri gibi koşullara bağlı olarak sorumluluğun bir temsilciden diğerine geçmesine olanak tanır.Grup sohbeti tarzı kurulumlar, birden fazla temsilciyi ortak bir konuşmaya dahil ederek seçenekleri tartışmalarına, görüş alışverişinde bulunmalarına ve gerçek zamanlı olarak bir çözüme ulaşmalarına olanak tanır.

Denetimli veya hiyerarşik yapılanmalar, ara sonuçları gözden geçiren, görevler atayan ve çatışmaları çözen bir yönetici ajanı içerir..NET'te bu düzenlemeyi arka plan çalışanları, mesaj kuyrukları veya iş akışı motorları kullanarak temsil edebilirsiniz; aracıların kendileri ise Yardımcılar API'si veya ilgili soyutlamalar aracılığıyla iletişim kurar.

Microsoft.Extensions.AI, VectorData ve Agent Framework

.NET geliştiricileri için ajan oluşturmayı daha kolay hale getirmek amacıyla Microsoft, Microsoft.Extensions.AI ve Microsoft.Extensions.VectorData gibi temel kütüphaneler sunuyor.Bu kütüphaneler, halihazırda kullandığınız diğer Microsoft.Extensions paketlerine benzer bir deneyim sunmak üzere tasarlanmıştır; bu paketler günlük kaydı, yapılandırma ve bağımlılık enjeksiyonu için kullanılır.

Yapay zeka uzantıları, modeller, araçlar ve komut istemleriyle takılabilir bir şekilde çalışmak için modüler bileşenler sağlar.Belirli bir LLM tedarikçisini kod içine yerleştirmek yerine, model sağlayıcılarını kaydedebilir ve bunları yapılandırma yoluyla değiştirebilirsiniz; bu da maliyet, gecikme ve yetenek arasında ortamlar arası denge kurmanız gerektiğinde son derece faydalıdır.

Vektör veri uzantıları, anlamsal arama ve erişimle zenginleştirilmiş üretimi uygulamalarınıza entegre etmeye odaklanmaktadır.Bu yöntemler, belirli vektör veritabanı uygulamalarını soyutlayarak, ajanınızın uzun süreli belleğini destekleyen gömülü vektörleri depolamak, aramak ve yönetmek için ortak arayüzler sunar.

Bu temel yapı taşlarının üzerine, Microsoft Agent Framework, özellikle ajan ve iş akışı senaryolarına uyarlanmış daha üst düzey bir soyutlama sunmayı amaçlamaktadır.Ayrıntılar gelişmeye devam etse de, amaç, daha geniş .NET ve Azure ekosistemine güçlü bir entegrasyonla, aracıları, araçları, iş akışlarını ve bağlamı tanımlamak için tutarlı bir yol sağlamaktır.

AI Toolkit, Azure AI Foundry ve Visual Studio Code'dan gelen aracılar.

Birçok geliştirici, yapay zeka ajanlarını doğrudan editörlerinden keşfetmeyi ve prototiplemeyi tercih eder ve işte tam da bu noktada Visual Studio Code için AI Toolkit ve Azure AI Foundry uzantıları devreye girer.Birlikte, kodlama ortamınızdan ayrılmadan modelleri incelemenize, dağıtmanıza, kalitelerini değerlendirmenize ve bunları aracılara entegre etmenize olanak tanırlar.

AI Toolkit uzantısı, Ollama gibi araçlar aracılığıyla sunulanlar da dahil olmak üzere, bulutta barındırılan ve yerel modelleri inceleyebileceğiniz bir model kataloğu sunar.GitHub'da barındırılan modelleri çalıştırabilir, farklı modellerin çıktılarını yan yana karşılaştırabilir ve hangisinin kullanım durumunuza daha uygun olduğunu hızlıca görebilirsiniz.

Azure AI Foundry entegrasyonu başka bir boyut daha ekliyor: Modelleri doğrudan Azure'a dağıtabilir, bunları çağırmak için örnek C# istemci kodu oluşturabilir ve yapılandırma ile meta verileri VS Code içinden düzenleyebilirsiniz.Bu, özellikle ekibiniz zaten Azure ekosisteminde yer alıyorsa, deneme aşamasından üretime geçiş yolunu kolaylaştırır.

Bu eklentiler ayrıca, Data Wrangler gibi araçlarda test veri kümeleri oluşturmanıza, değerlendirmeler yapmanıza ve sonuçları incelemenize olanak tanıyarak değerlendirme sürecine de yardımcı olur.Alanınıza uygun özel değerlendiriciler tanımlayabilir, bunları model çıktı grupları üzerinde çalıştırabilir ve aracılarınızın nerede iyi performans gösterdiğini veya zorlandığını görselleştirebilirsiniz.

Ajan oluşturma için, araçlar sistem istemleriyle ajan oluşturmayı, sistem mesajlarını otomatik olarak üretmeyi ve harici araçları kullanıma sunan Model Bağlam Protokolü (MCP) sunucularına bağlanmayı destekler.Hatta kendi hizmetlerinizi temsil eden özel MCP sunucularını çağıran, kaçış odası tarzı veya alana özgü ajanlar bile oluşturabilirsiniz.

Azure AI Foundry'nin kendi içerisinde görsel bir ajan tasarımcısı ve YAML senkronizasyonu elde edersiniz.Bu, aracıları yapılandırabileceğiniz, Bing arama veya kod yorumlayıcı gibi araçlar ekleyebileceğiniz, etkileşimleri bir test ortamında test edebileceğiniz ve ardından yapılandırmayı kaynak kontrolüne aktarabileceğiniz veya senkronize edebileceğiniz anlamına gelir; böylece C# kodunuz ve aracı tanımlarınız uyumlu kalır.

C# yapay zeka ajanları için test, gözlemlenebilirlik ve maliyet kontrolü

Üretime hazır ajanlar, diğer tüm kritik hizmetler gibi aynı titizliği gerektirir: kapsamlı testler, iyi telemetri ve sürekli maliyet yönetimi.Aradaki fark, LLM'lerin rastgele çıktılar ve belirteç kullanımı gibi göz önünde bulundurmanız gereken yeni değişkenler getirmesidir.

Test tarafında ise, araçlarınız için klasik birim testleri ile gerçekçi kullanıcı akışlarını simüle eden entegrasyon tarzı görüşmelerin bir karışımına ihtiyacınız olacak.Birim testleri, her aracın belirli girdiler verildiğinde doğru şekilde davrandığını doğrular; diyalog testleri ise ajanın mantıklı araçlar seçtiğini, geçerli argümanlar ürettiğini ve politika sınırları içinde kaldığını kontrol eder.

Gözlemlenebilirlik yalnızca başarı veya başarısızlığı yakalamakla kalmamalı; gecikme dağılımlarını, belirteç tüketimini, çalışma adımı izlerini ve araç çağrı istatistiklerini de içermelidir.Bu ölçümler, modelleri, istemleri veya araç uygulamalarını değiştirdiğinizde gerilemeleri tespit etmeyi kolaylaştırır ve sisteminizi performans ve maliyet açısından optimize etmenize yardımcı olur.

Maliyet kontrolü, görüşme süresini ve araç çağrılarının sıklığını nasıl yönettiğinizle yakından bağlantılıdır.Uzun ve sınırsız konuşmalar, belirteç kullanımını artırabilir ve yanıt sürelerini yavaşlatabilir; bu nedenle özetleme, bağlam pencereleri ve akıllı kısaltma gibi stratejiler, ciddi bir C# uygulamasında olmazsa olmazdır.

Başarı oranlarını yalnızca genel ajan düzeyinde değil, belirli yürütme yolları veya iş akışları düzeyinde de izlemek iyi bir fikirdir.Bu sayede, çoklu ajan sisteminizdeki hangi rotaların güvenilir olduğunu ve hangilerinin daha iyi yönlendirmelere, yeni araçlara veya ek güvenlik önlemlerine ihtiyaç duyduğunu görebilirsiniz.

Güvenlik, uyumluluk ve kurumsal entegrasyon

Temsilcileriniz hassas verilere erişmeye veya iş açısından kritik operasyonları otomatikleştirmeye başladığında, güvenlik ve uyumluluk sonradan düşünülecek bir şey olamaz.LLM'nin esnekliği ve kurumsal kısıtlamaların birleşimi, çok dikkatli bir güvenlik yaklaşımı gerektirir.

İlk olarak, kimlik bilgilerini veya gizli bilgileri asla C# kodunuza doğrudan yazmayın.Bulut platformunuzda standart gizli bilgi yönetimi mekanizmalarını, ortam değişkenlerini veya yönetilen kimlikleri kullanın ve aracı işleminizin yalnızca gerçekten ihtiyaç duyduğu ayrıcalıklara sahip olduğundan emin olun.

İkinci olarak, temsilci adına yapılan her harici çağrı, veri temizleme ve doğrulama aşamalarından geçmelidir.Bu, hem kullanıcı girdilerini hem de araçlara model tarafından oluşturulan argümanları kapsar, çünkü her ikisi de beklenmedik, hatalı veya kötü amaçlı içerik içerebilir.

Üçüncüsü, kullanıcı, çağıran aracı, hedef sistem ve sonuç gibi temel bağlam bilgilerini de içerecek şekilde her araç çağrısını kaydetmeli ve denetlemelisiniz.Düzenlemeye tabi sektörlerde bu denetim izi zorunlu olabilir; bu ortamların dışında bile, olay müdahalesi ve yönetişim için paha biçilmezdir.

Son olarak, dağıtım mimarinizi kontrol ve çıkarım düzlemlerini ayırmak gibi kurumsal kalıplarla uyumlu hale getirin.Bu, orkestrasyon, yapılandırma ve izleme işlemlerinin ağır iş yükü gerektiren çıkarım süreçlerinden ayrılması anlamına gelir; bu da ölçeklenebilirliği, güvenliği ve operasyonel dayanıklılığı artırır.

Dağıtım, ölçeklendirme ve analitiklere bağlanma

C# ajanlarınız testlerde düzgün çalışmaya başladıktan sonra, sorunsuz bir şekilde ölçeklenebilen ve yığınınızın geri kalanıyla entegre olan bir dağıtım stratejisine ihtiyacınız var.Konteynerler, düzenleyiciler ve yönetilen yapay zeka hizmetleri burada sizin müttefiklerinizdir.

Sık kullanılan bir yöntem, aracı düzenleme katmanınızı konteynerlere paketleyip Kubernetes veya başka bir düzenleyici altında çalıştırmak ve LLM çıkarımını Azure OpenAI gibi yönetilen hizmetlere devretmektir.Bu sayede, talepteki dalgalanmalara bağlı olarak kontrol düzleminizi ve çıkarım düzleminizi bağımsız olarak ölçeklendirebilirsiniz.

Uzun süreli veya yoğun ajan etkileşimleri genellikle eşzamansız işlem ve kuyruklardan fayda sağlar.Karmaşık çok adımlı bir işlem tamamlanırken HTTP isteklerini engellemek yerine, iş öğelerini sıraya alırsınız, arka plan çalışanlarının bunları işlemesini sağlarsınız ve sonuçlar hazır olduğunda istemcilere bildirim gönderirsiniz.

İşletme açısından bakıldığında, gerçek değer genellikle temsilci çıktılarının analitik ve iş zekası araçlarına aktarılmasıyla ortaya çıkar.Bu, yapılandırılmış özetleri, kararları veya ölçümleri veri ambarlarına aktarmak ve bunları Power BI veya diğer BI platformlarındaki gösterge panoları aracılığıyla sunmak anlamına gelebilir.

Bu kapalı döngü—ajanların içgörüler veya eylemler üretmesi, analitiklerin etkiyi ölçmesi ve ekiplerin komutlar ve araçlar üzerinde yineleme yapması—yapay zekayı bir yenilik olmaktan çıkarıp sürdürülebilir bir operasyonel yeteneğe dönüştürüyor.Zamanla, hangi aracıların en yüksek yatırım getirisini sağladığını, hangi iş akışlarının daha da otomatikleştirilmesi gerektiğini ve insan gözetiminin nerede kalması gerektiğini belirleyebilirsiniz.

Tüm bu parçaları bir araya getirdiğinizde, asistanların, araçların, iş akışlarının ve bulut hizmetlerinin iş birliği yaptığı C# merkezli bir ekosistem elde edersiniz: Asistanlar API'si konuşmaya dayalı mantık yürütme sağlar, .NET kodunuz sağlam araçlar ve durum sunar, Microsoft.Extensions kütüphaneleri temiz soyutlamalar sunar ve Azure AI Foundry ile AI Toolkit, deney ve dağıtımı kolaylaştırır.Bellek, gözlemlenebilirlik, güvenlik ve mimariye özen gösterilerek, bu ajanlar kuruluşunuz genelinde verimlilikte, karar kalitesinde ve otomasyonda gerçek, ölçülebilir iyileştirmeler sağlayabilir.