Onaylı kaynakları, yanıtın hangi yoldan üretildiğini ekibinizin inceleyebileceği bir sisteme bağlıyoruz. Veri alımından erişim kontrolüne, retrieval kanıtından alıntılara ve güncellik takibine kadar her adımın sorumlusunu netleştiriyoruz.

Birlikte çalıştığımız 500'den fazla markadan birkaçı. Kendi işimizi production'daki 100'den fazla AI workflow'u üzerinden yürütüyoruz.

Tüm referansları gör
  • BMW
  • Decathlon
  • Enpara
  • Abdi İbrahim
  • English Home
  • Hotiç
  • Groupama
İçe alma, arama, agent temellendirme, chatbot temellendirme, güvenlik testi ve değerlendirme kendi kapsamı ve devir tesliminde ele alınıyor. Bilgi sistemi parça parça kurulup kanıtlanıyor.

Geliştirin ve Entegre Edin

Kurumsal RAGGeliştirme

İyi görünen bir yanıt, RAG geliştirmesinin yalnızca bir parçasıdır. Onaylı kaynakları retrieval, yanıt, alıntı, erişim kontrolü ve işletme adımlarına bağlıyoruz. Sonuç yanlış, eski veya desteksiz çıktığında ekibiniz sorunun hangi aşamada başladığını inceleyebiliyor.

Bilgi sistemi kararı onaylı kaynaklardan yanıta kadar retrieval, alıntı, erişim ve güncellik yolunun tamamını gerektiriyorsa kurumsal RAG geliştirmeyi seçin.

Erişim KontrollüRAG

Bir kaynak doğru biçimde kısıtlanmış olsa bile eski indeks kaydı, önbellek, alıntı veya log üzerinden görünebilir. Kimlik ve izin kararını RAG yolunun tamamında izliyor, erişimin sızabileceği ya da geç güncellenebileceği noktaları çalıştırıyoruz.

RAG kaynak izinlerini koruyor görünse de indeks, önbellek, alıntı veya log sızıntısı ihtimali varsa erişim kontrollü yolu seçin.

Kurumsal Bilgi SistemiStratejisi ve Mimarisi

Kaynak kuralları, erişim kararları ve işletme görevleri farklı ekiplerde kaldığında sistemin bütünü sahipsiz kalabiliyor. Bu kararları ekiplerinizin tartışıp onaylayabileceği ve sonrasında işletebileceği tek bir mimaride topluyoruz.

Kaynak, erişim, güncellik ve işletme kararları farklı ekiplerdeyse bilgi sisteminin bütününü sahiplendirecek strateji ve mimari çalışmasına yönelin.

RAG Hazırlığı veKaynak Korpus Değerlendirmesi

Kaynak envanteri dolu görünebilir ama önemli soruların karşılığı belgelerde bulunmayabilir. Korpustan örnek alıyor, erişimi ve yanıtlanabilirliği test ediyor, RAG geliştirmesinden önce tamamlanması gereken işleri çıkarıyoruz.

RAG use case’i belli ama korpusun hedef soruları yanıtlayıp yanıtlamadığı, erişimi ve sorumluları belirsizse kaynak hazırlık değerlendirmesiyle başlayın.

Bilgi Alımı veİndeksleme Hattı Geliştirme

İlk veri alımı çoğu zaman çalışır. Asıl sorun, kaynak değiştiğinde metadata, erişim kuralları ve silme kararının aynı yolu izleyip izlemediğidir. Bilgi alımı ve indeksleme hattını bu yaşam döngüsünü koruyacak biçimde geliştiriyoruz.

Onaylı kaynaklar değiştikçe metadata, izin, silme ve güncellik kararlarının indekse taşınması gerekiyorsa bilgi alımı hattını geliştirin.

Semantik ve HibritArama Geliştirme

Bazı sorgularda ürün kodunun birebir eşleşmesi gerekir. Bazılarında kullanıcı, kaynağın hiç kullanmadığı bir ifadeyle arama yapar. Sözcüksel ve semantik retrieval'ı filtreler ve yeniden sıralamayla birleştiriyor, sonucu sorgu sorgu değerlendiriyoruz.

Kurumsal aramada bazı sorgular tam eşleşme, bazıları anlam benzerliği istiyorsa filtre ve yeniden sıralamalı hibrit retrieval’ı seçin.

Bir yanıt akıcı görünürken eski bir dosyaya dayanabilir, yeni bir izin kararını kaçırabilir ya da yanlış bölümü getirebilir. Bu koşulları görünür kılıyor, güncel tutma işini adı belli sorumlulara bağlıyoruz.

Kaynakları, erişim kurallarını, veri alımını ve retrieval sonuçlarını kendi koşulları içinde inceliyoruz. Bir yanıt sorunluysa açığın korpusta mı, indekste mi, izin yolunda mı, aramada mı yoksa production'da mı başladığını ekibiniz görebiliyor.

Katmanları ayrı tutmak, bir bilgi hatasını akıcı tek bir yanıta güvenmek yerine teşhis edebilmeyi sağlıyor.

Sistem büyümeden önce ilk bilgi ihtiyacını, yetkili kaynakları, kullanıcıları, erişim kurallarını, sorumluları ve kabul kararını seçiyor; ardından temsili kaynakları, izinleri, güncelliği, retrieval davranışını ve bilinen hataları inceliyor, bilinmeyenleri geçmiş saymak yerine açıkça kaydediyoruz. Korpus, izinler, veri alımı ve retrieval üretimden ayrı ele alınıyor; böylece eksik bilgi, erişim kusuru, eskimiş içerik ve yanıt hatası tek tek teşhis edilebilir kalıyor. Zeo kararı yanıtlayabilecek en küçük dilimi geliştiriyor ya da değerlendiriyor; devirde kabul edilen koşullar, kaynak ve işletim sorumluları, kapanmamış boşluklar, izleme sorumlulukları ve bir sonraki inceleme tetikleyicisi kayda geçiyor.

Tek bir bilgi ihtiyacıyla başlayıp sorumluları belli bir işletim düzenine ulaşıyoruz
  1. Kararı ve sınırı tanımlayın

    İlk bilgi ihtiyacını, bu bilgiyi arayan kişileri, yanıt için kullanılabilecek kaynakları ve sonucu kabul edecek sorumluyu baştan belirliyoruz.
  2. Başlangıç seviyesini kurun

    Temsili kaynakları ve bugünkü sistem davranışını inceliyoruz. Belirsiz izinler, sahipsiz kaynaklar ve test edilmemiş değişiklikler çözülene kadar açık kalıyor.
  3. En küçük yeterli müdahaleyi tasarlayıp test edin

    Kararın gerektirdiği müdahaleyi seçiyor, sınırları belli tek bir yolu gözlenebilir kanıt üretecek kadar geliştiriyor ya da değerlendiriyoruz.
  4. Karar verin, devredin ve kanıtı saklayın

    Kabul edilen koşulları, açık kalan noktaları, kaynaklardan ve günlük işletimden sorumlu kişileri, yeni incelemeyi başlatacak durumlarla birlikte kaydediyoruz.

Zeo'da operasyonda çalışan her danışmanın güvenli LLM erişimi ve eğitimi var, AI günlük işin içinde duruyor. Beşi AI Bootcamp'imizden geçti ve neyin değişmesini beklediğini yazdı.

Ozan Ketenci
zeo-logo-yuvarlak.png

Generative AI, günlük hayatımızı ve temas ettiği her sektörü değiştirebilecek çok büyük bir potansiyele sahip. Teknoloji geliştikçe yaratıcılık, problem çözme ve inovasyon tarafındaki kullanım alanları da genişliyor. Gerçekçi görsel, video ve müzik üretiminden ilaç araştırmalarına ve tasarıma kadar birbirinden oldukça farklı alanlar bunun içinde yer alıyor. Bu kapsamın büyümeye devam edeceğini ve birçok sektörde derin bir etki yaratacağını düşünüyorum. E-ticaret, sağlık, finans ve başka sektörler, generative AI'ı ilgi çekici ve kişiselleştirilmiş deneyimler oluşturmak, iş süreçlerini optimize etmek için kullanabilecek.

Benzersiz içerik ve çözümler üretebilmesi yeni olasılıkların önünü açacak, verimliliği artıracak.

Ozan Ketenci

Samet Özsüleyman
zeo-logo-yuvarlak.png

Generative AI, SEO ve dijital pazarlamayla birlikte başka sektörleri de dönüştürme potansiyeline sahip ve yakın gelecekte hayatımızda önemli bir rol oynayacak. Kişiselleştirilmiş deneyimler, daha etkili pazarlama, veriyi daha hızlı yorumlama ve daha hızlı aksiyon alma gibi kullanım biçimleri göreceğiz. Ürün ve hizmetler gelişecek, müşteri iletişimi gibi iş süreçleri daha verimli hale gelecek. Bu gelişmelere ayak uyduramayan kurumlar, AI'ı işine dahil eden şirketlerin gerisinde kalacak.

Kendi sektörünüzde kullanabileceğiniz AI uygulamalarını vakit kaybetmeden planlamaya başlamalısınız.

Samet Özsüleyman

Hande Parmaksız
zeo-logo-yuvarlak.png

Generative AI'la birlikte bilgisayar devrimi kadar etkili olabilecek bir dönüşüme tanıklık ediyoruz. Bu, iş hayatı ve endüstriler için tarihi bir an. Bugün çoğumuz için teknoloji hâlâ ChatGPT gibi büyük generative AI arayüzlerini işte veya günlük hayatta kullanmakla sınırlı görünüyor. Oysa bu, teknolojinin potansiyelinin yalnızca yüzeyi. Modelleri içerik üretiminin ötesinde kendi workflow'larına ve müşteri süreçlerine dahil eden işletmeler, önümüzdeki yıllarda çok büyük rekabet avantajları elde edecek.

Generative AI'ın en kısa sürede tüm yönetim kurullarının gündemine girmesi gerektiğine inanıyorum.

Hande Parmaksız

Can Mutioğlu
zeo-logo-yuvarlak.png

AI'ı bugün ve geleceğin en heyecan verici teknolojisi olarak görüyorum. Potansiyelinin sınırsız olduğuna inanıyorum. Henüz buzdağının görünen kısmındayız. AI hızla gelişiyor ve farklı sektörlerde neler yapabileceğinin önemli bir bölümü hâlâ keşfedilmiş değil. Dijital işlerde şimdiden büyük bir etki yarattı, ilerleyen yıllarda başka endüstrileri yeniden şekillendiren atılımlar göreceğiz.

AI'ın potansiyeli büyümeye devam edecek. Hiçbir sektör verimlilik ve ilerleme açısından sunduğu bu fırsatı göz ardı edemez. Her yeni adımda başka boyutlar keşfedecek ve AI'ın doyum noktası olmadığını göreceğiz.

Can Mutioğlu

Ezgi Gülsen Yaylı
zeo-logo-yuvarlak.png

Büyük teknoloji şirketlerinin generative AI alanındaki çalışmalarının önümüzdeki yıllarda çok daha geniş bir etki yaratması muhtemel. Sanat ve tasarım gibi yaratıcı sektörlerde, ayrıca sağlık ve finans gibi hassas alanlarda yeni çalışma biçimlerinin ortaya çıkmasını bekliyorum. Teknoloji günlük hayata girdikçe etik ve risk sorularını da beraberinde getiriyor. Yeni gelişmeleri yakından takip edip deneyimleyebilmek, generative AI'ı benim için son yılların en heyecan verici potansiyeli haline getiriyor.

Gelecekte generative AI'ın toplumun yararına daha fazla kullanıldığını görmeyi sabırsızlıkla bekliyorum.

Ezgi Gülsen Yaylı

Modeller, retrieval, değerlendirme ve gözlemlenebilirlik çalışan bir sistemin ayrı katmanları. Bu sistemleri kurup işlettiğimiz araçlar bunlar.

Modeller ve bulut platformları

  • OpenAIBu sayfanın hero bölümünün adını koyduğu ingestion ve indeksleme katmanı bir embedding adımıyla başlıyor. Enterprise RAG Development ve Knowledge Ingestion & Indexing Pipeline Development, bu katmanı kurarken OpenAI'ın embedding modellerini iki varsayılan encoder'dan biri olarak kullanıyor.
  • AnthropicBu sayfanın hero bölümündeki ölçüt, ikna edici bir yanıtın yine de kırık bir kaynak yolunu gizleyebileceği. Claude'un context yönetimi, birkaç alt görevde üretilen bir yanıtın alıntısını karışık bir özet yerine belirli bir getirilmiş pasajla izlenebilir tutmak için kullandığımız araç oluyor.
  • CohereVector benzerliği tek başına konuya yakın ama sorguya en iyi yanıt olmayan bir pasajı öne çıkarabiliyor. Semantic & Hybrid Search Development, bu durumları düzeltmek için Cohere'in yeniden sıralama adımını kullanıyor.

Agent ve otomasyon framework'leri

  • LangChainEnterprise RAG Development'ın kaynaktan yanıta uzanan uçtan uca pipeline'ını genellikle LangChain üzerinde kuruyoruz. Bu sayfanın hero bölümünün adını koyduğu retrieval, üretim ve alıntı adımlarını tek, birbirine bağlı ve incelenebilir bir zincir hâlinde tutan katman bu.
  • LlamaIndexBu sayfanın hero bölümünün asıl önermesi, bir yanıta güvenmeden önce ne olduğunu inceleyebilmek. LlamaIndex'in indekslemesi, Access-Controlled RAG ile Knowledge Ingestion & Indexing Pipeline Development'ın bir yanıtla kaynak dokümanı arasındaki bu bağlantıyı sağlam tutmak için kullandığı yol oluyor.
  • HaystackEnterprise Knowledge System Strategy & Architecture, bazen müşterinin yönetilen bilginin kendi ortamından hiç çıkmaması gerektiği bir kural etrafında tasarım yapmak zorunda kalıyor. Haystack, bu tamamen self-hosted durum için kullandığımız açık kaynaklı pipeline oluyor.
  • UnstructuredKnowledge Ingestion & Indexing Pipeline Development, PDF'ler, taramalar, ofis dokümanları gibi gerçek kurumsal kaynak dosyalarından başlıyor. Unstructured'ın bölme işlemi, bir tablo satırının veya dipnotun bu parça vector index'e ulaşmadan önce sessizce yanlış parçaya karışmasını önlüyor.

Retrieval, embedding ve hafıza

  • Voyage AIRAG Readiness & Corpus Assessment, müşterinin kaynak materyalinin uzmanlaşmış veya teknik bir dil kullandığını bulduğunda ingestion'a genel amaçlı bir encoder'la başlamıyor. Voyage AI'ın alana özel embedding seçeneklerini bu durumda alternatif olarak değerlendiriyoruz.
  • PineconeAccess-Controlled RAG, yalnızca konu alaka düzeyini değil, sorgu anında bir izin sınırını da gözeten bir retrieval gerektiriyor. Pinecone'un yönetilen metadata filtrelemesi, birkaç alt görevin getirilen bir pasajı sorguyu yapan kimliğin gerçek erişim seviyesi içinde tutmak için kullandığı araç oluyor.
  • WeaviateAccess-Controlled RAG'ın izin sınırının bazen yapılandırılmış bir filtre olarak semantic search ile birleştirilmiş şekilde uygulanması gerekiyor. Weaviate'in native filtrelemesi, bu birleşik kontrolün önemli olduğu durumlarda başvurduğumuz seçenek oluyor.
  • QdrantGüvenlik açısından hassas bir kurum içindeki Knowledge Ingestion & Indexing Pipeline Development, vector index'in müşterinin tamamen kontrol ettiği altyapıda kalmasını gerektirebiliyor. Bu durumda Qdrant'ı kullanıyoruz.
  • MilvusEnterprise Knowledge System Strategy & Architecture, tüm kurumu kapsayabilecek corpus boyutlarını planlamak zorunda kalıyor. Milvus'un ölçek odaklı tasarımı, bu büyüklendirme gereksinimine karşı değerlendirdiğimiz depo seçeneklerinden biri oluyor.
  • ChromaRAG Readiness & Corpus Assessment, bir production mimarisi önermeden önce corpus kalitesini hızla test etmek istiyor. Chroma'nın gömülü deposuna karşı ilk bir retrieval turu çalıştırıyoruz, değerlendirmenin sonunda önermeyebileceği daha ağır bir altyapıya bağlanmadan.
  • LanceDBKnowledge Ingestion & Indexing Pipeline Development, bazen ayrı bir yönetilen hizmet eklemek yerine müşterinin mevcut veri sürümleme iş akışına sığmak zorunda kalıyor. Bu kısıt için değerlendirdiğimiz seçenek LanceDB'nin gömülü biçimi oluyor.
  • VespaSemantic & Hybrid Search Development tam olarak bu birleşim için var. Vespa'nın native hybrid sıralaması, müşterinin aramasının semantic ve lexical alaka düzeyinin sonradan eklenmiş değil gerçek bir karışımını gerektirdiği işlerde kullandığımız çözüm oluyor.

Değerlendirme ve gözlemlenebilirlik

  • RagasHero bölümünün bir yanıta güvenmeden önce ne olduğunu inceleme ısrarı, pratikte Ragas'ın dayanaklılık puanlamasıyla kontrol ediliyor. RAG Readiness & Corpus Assessment ve Enterprise RAG Development genelinde bir yanıtın gerçekten getirilen içeriğe dayandığını doğrulamak için kullanılıyor.
  • LangfuseHero bölümü, ikna edici bir yanıtın hâlâ güncelliğini yitirmiş içerik ya da erişim sorunu gizleyebileceğini söylüyor. Bu belirli kontrolün gerçekleştiği yer Langfuse'un çalıştırma başına izi, sorguyu retrieval'dan nihai üretilen yanıta kadar takip ediyoruz.

Güvenlik ve güvenlik testi

  • MindgardAccess-Controlled RAG'ın kendi riski, sessizce amaçlanan izin sınırını atlayan bir retrieval yolu. Mindgard'ın sürekli red-team testi, tam olarak bunu canlı bir bilgi sisteminde araştırmak için tasarlandı.

Veri, etiketleme ve geliştirme

  • JupyterRAG Readiness & Corpus Assessment'ın kapsam analizi, corpus'un gerçek soruları yanıtlayacak kadar doğru içeriğe sahip olup olmadığını kontrol eden analiz, notebook analizi olarak çalışıyor. Böylece değerlendirmenin sonuçları incelenebilir adımlara kadar izlenebiliyor.
Otomatikleştirmek istediğiniz iş akışını, operasyonel darboğazı veya kullanım senaryosunu paylaşın. Net bir yapay zekâ uygulama planı kuralım.
Projenizi anlatın