LLM'ler ile İşinizi Katlanarak Büyütün

Büyük Dil Modelleri (LLM) ile iş süreçlerini hızlandırma, müşteri deneyimini geliştirme ve ölçeklenebilir büyüme.

Konuşmacılar: Yusuf Hilmi

İçerik yazarı

22 Kas 2023

Video Transkripti

⏱ 17 dk okuma• 2.988 kelime

Konuşma metnini inceleyin veya dil değiştirin

Merhabalar herkese, hızlıca başlayayım isterseniz. Basit ve sade bir sunum olsun istedim, olabildiğince başlıklar üzerinden konuşalım; işi gerçekten nasıl büyütürüz, nasıl hızlandırırız, bunun üzerinden geçelim istedim. Biz neler yapıyoruz: Biz, SearchBase olarak şu an high-growth B2B SaaS startup'larının kendi AI copilotlarını yapmasını sağlıyoruz. Bu AI copilot'tan kastımız aslında temelde natural language interface ile çalışan bir copilot; yani bir kullanıcı geliyor, ne yapmak istediğini söylüyor ve istediği çıktıyı alabiliyor. Bunu Shopify sidekick altında kendi ürününe entegre etti ve biz zaten bunu kendi ürünümüz içerisinde yapıyorduk ve fark ettik ki aslında kendi AI ekibi olmayan bir sürü startup ve bir sürü şirket bunu yapmak isteyecek ve istiyor da.

Onun için de hızlıca bunun üzerine çalışmaya başladık. Bunun sağladığı birkaç tane katkı var. İlk ve en önemlisi, özellikle entegre edildiği andan itibaren, ürün içerisinde bir kullanıcı ne istediğini söyledikten sonra analitik dashboard'larında event'lere baka baka kullanıcı motivasyonunu çözmek zorunda değiliz. Gerçekten sadece istedikleri şeyi okuyarak bile product manager'larımız, founder'lar ve özellikle exec team, şirketin nereye gideceğine karar verebiliyor. Bununla beraber, bu kullanıcılara sağladığımız en önemli özellik aslında friction'ı azaltmak; yani kullanıcı deneyimindeki tüm problemleri çözebiliyorsunuz bir noktada. Eğer kullanıcıdan sadece input alarak istediği aksiyonu gerçekleştirebileceksiniz. Peki bu nerelerde translate ediyor diye soracak olursanız, yani nerelerde gerçekten kullanılıyor bu? Özellikle bu BI tool'larında, analitik tool'larında ve B2B SaaS ürünlerinin çoğunda bir raporlama özelliği var.

Bu raporlama özelliği genelde sizin böyle 15-20 dakika, bazen 1 saatinizi alan, hatta böyle bir bug varsa içeride, böyle birkaç saate kadar vaktinizi yiyebilecek bir probleme dönüşebiliyor. Bu problemi çözmek için ise bizim önerdiğimiz çözüm aslında temelde ne istediğini aldıktan sonra kullanıcının, arka tarafta biz tamamen AI'a bunları vererek, nasıl çıktılar olması gerekiyorsa bunu ürün içerisine entegre edip ürüne sağlamış oluyoruz ve üründe o rapor gerçekleşmiş, çıkmış oluyor. Şimdi kısa bir intro verdik biz neler yapıyoruz diye, şeyden konuşalım: Gerçekten kendi işinizi nasıl daha hızlı büyütebilirsiniz ve scale ederken bu LLM'leri kullanarak nasıl ilerleyebilirsiniz? Benim her zaman önerdiğim, Yiğit'le de konuşurken çok üzerine bastığım bir nokta şu: LLM'lere bir AI'mış gibi eskiden gelen, eskiden kalan, çalışmayan AI'mış gibi değil de gerçekten bir insanmış gibi yaklaşıyorum ben ve hani zeki bir varlık olarak bakmak gerekiyor.

Zeki bir varlık olarak baktıktan sonra ikinci nokta şu oluyor: Bizim normalde şu an işte, ben yeni birisini işe alıp bir örneğin marketing fonksiyonu için beraber çalışacaksam, ona belirli bir ödeme yapmam gerekiyor ve ben genelde saat bazlı bir ödeme yapıyorum. Ama LLM'lerle ben yaklaşık 100 tane intern'ı aynı anda çalıştırabilir hale gelebiliyorum ve compute o kadar ucuz ki, yani şu an LLM'lere ödediğimiz miktar o kadar ucuz ki, karşılığında aldığımız zeka ve reasoning capability'sine göre. Bizim şu an bunları kullanarak bir şirket içerisinde, özellikle biz küçük bir şirketiz, 2 kişilik bir şirketiz bu arada ama bir yıldır hiç ara vermeden gerçekten 20-30 kişilik şirketler seviyesinde performans sergileyebiliyorduk ve tek nedeni bunun, başından beri, ilk başladığımız günden beri LLM'leri kullanarak devam etmekte.

Bu core business functions'ın üzerinden geçelim. Gerçekten bizim odaklandığımız, hangi noktalarda, nasıl kullandığımızdan biraz bahsedeceğim şimdi. Sales ve marketing'den başlayacağım. Zaten buradaki kitle genelde o tarafta çalışıyor. Ben o tarafta çok kötü birisiyim, dürüst olayım orada, gerçekten kötüyüm. İyileşmeye çalışıyoruz ve iyileşiyoruz. Ama benim kötü olmam, bizim kötü olacağımız anlamına gelmedi. Ben bu LLM'leri kullanarak, öncelikle bu LLM'leri kullanarak gerçekten şunu sağladım: Bilgi edindim. Bilgi edinme kısmında bana aynı zamanda bu bilgiyi ve nasıl ilerleyeceğimi, stratejinin büyük bir kısmını verdi. Bunu sadece güçlendirmek gerekiyor. Onu da yaparken ilk önereceğim şey, gerçekten LLM'i ortalama zekada bir insan olarak gördükten sonra uzmanlarla iletişim kurmak. Bir iki tane gerçekten alanında çok iyi olan, Yiğit gibi birisini bulduysanız, ona sorularınızı iletin ve o LLM'i optimize etme konusuna yoğunlaşabilirsiniz.

Burada önerebileceğim birkaç tane pratik tavsiye var. İlki, personalized outreach. Yani ChatGPT'nin önemi aslında Turing testi geçen bir interface'in, bir modelin gerçekten halka açılmış olmasıydı ve bu en hızlı büyüyen ürün haline geldi dünya üzerinde bugüne kadar. O yüzden bunu kendi sales ve marketing'inizde yapabilirsiniz zaten. Bununla beraber benim çok sevdiğim bir nokta şu: Normalde bir içeriği bir yazara yazdırdınız ve onun belirli varyasyonlarını istersiniz, revize yollarsınız ve o revizeler böyle 2-3 hafta gidip gelebilir. Ama bir LLM'le gerçekten bunu şu an, yani 100 tane varyasyon üzerinden benim geçmem yaklaşık olarak 20-30 dakika alacak almayacak. Ve 100 varyasyonu yine ben LLM'e verip, hangisinin hangi kitleye gitmesi gerektiğini sorup ona göre odaklayabiliyor olacağım.

Bu slayt ileri atıyor, kusura bakmayın. Ve üçüncü nokta da şu: Yani translation kısmında şu ana kadar API'lar kullandık, belirli noktalarda işimize yaradı, belirli noktalarda gerçekten çok fail ettik. Benim bir önceki çalıştığım şirkette yaşadığımız en büyük problem translation'dı. Bunu şu an çözmek için artık neredeyse sadece tek yapmanız gereken, OpenAI'ın API'ına gerçekten bir call yapmak veya belirli farklı API'lara veya kendi geliştireceğiniz, kullanabileceğiniz, eğer ekibiniz varsa AI ekibiniz, kendi deploy edebileceğiniz bir model üzerinden translation'ları gerçekleştirmek. Gerçekleştirmekle de kalmıyor aslında. Yine Yiğit'ten öğrendiğim çok güzel bir tavsiyeyi de ekleyeceğim araya: Translation'ı gerçekleştirirken o kitle kimse, o ülkenin genel böyle sosyal, kültürel bağlamını da içine katarak bu translation'ları güçlendirebilirsiniz.

Yani sadece content'i bir kere çevirmek değil aslında olay. O content'i o kitleye ve o ülkeye de çok iyi adapte etmek gerekiyor. Ürün konusu bizim tam odaklandığımız konu. Bu alanda ürün içerisindeki friction'dan bahsettim, ürün içerisindeki problemlerden bahsettim ve bunun aslında böyle bir natural language interface'i, kullanıcının gelip "ben şunu yapmak istiyorum" dediğinde yapabildiği bir senaryodan bahsettik. Bunun ilk gerçekten katkı sağladığı noktalardan bir tanesi de onboarding süreci. Yani evet, biz bir SaaS şirketiyiz ama SaaS şirketi olmayan diğer tüm şirketler için de bu geçerli aslında.

Onboarding sürecinde kullanıcıların belirli problemleri var, belirli soruları var ve işte şu an için çoğu şirketin yaptığı yaklaşım şu oluyor: Eğer önemli bir müşteri varsa, ben gidiyorum ve bu müşteriye benim account manager'larımdan bir tanesine veya support ekibimden birisine yönlendirip, yaklaşık olarak 30 dakika, 1 saat, bazen 2 saat, bazen de birkaç farklı toplantıda bilgilendirmiş oluyorum. Bunu optimize etme konusunda şu an çalışan çok az şirket var. San Francisco'da, özellikle US'te çok fazla şirket var ama Türkiye'de ne yazık ki bunun daha başlangıcını göremedim. Herkes halihazırdaki o ekipleriyle çalışmaya devam ediyor ve orada çok büyüyen bir cost kalemi oluşuyor.

Yani masraf açısından oraya sürekli birilerini hire etmek, yani bir ay içerisinde 5-10 tane account manager hire eden bir startup'la tanıştım Türkiye'den ve bunu yapmalarının tek nedeni aslında ürünü anlatacak bir yapının olmaması ve ürün içerisindeki o aksiyonların, kullanıcının üründen alacağı değerin çok bariz olmaması. Bu sebepten sürekli o toplantılar gerçekleşmek durumunda kalıyor. Bunu çözmek, yani bizim çözdüğümüz bir yöntem var: Natural language interface sağlıyoruz. Ama temelde bunu aslında zeki bir varlıktan bahsettik. Zeki bir varlığa, ürünü bilen, şirketi bilen, şirketle alakalı problemleri daha önce görmüş, çözmüş, şirketle alakalı diğer tüm problem dokümanlarına erişimi olan bir AI'a sorarak aslında çoğu kullanıcının problemini çözebiliyor.

Sadece İngilizce değil, Türkçe de çalışıyor. Sunumu benim İngilizce, çok farkında olmadan öyle hazırladım ama gerçekten eğer OpenAI'ın GPT-3.5, 4 veya Anthropic'in cloud modellerini kullanıyorsanız, multilingual'da da çok iyi çalışıyor bu modeller. Hatta kendi fine-tune edebileceğiniz, AI ekibiniz varsa daha deep dive edebileceğiniz modeller de var. Onları da arada beni yakalarsanız daha detaylı anlatmış olurum. İkinci nokta conversion rate'ler. Yani biz SaaS içinde bizim için en önemli noktalardan bir tanesi o dönüşüm oranı. Kaç tane kullanıcı geliyor ve kaç tanesini biz aslında paying customer'a, ödeyen müşteriye dönüştürebiliyoruz. Bunu yaparken o time to value'dan bahsettik, değere giden zamandan. O değere giden zamanı minimize etmek gerekiyor. Gerçekten o kadar kısalması gerekiyor ki bir kullanıcı o ürüne girdiği anda o değeri bir noktada almak zorunda.

Eğer ben kullanıcıyı web sitemden alıp kendi ürün sayfama aldıktan sonra 3 dakika, 5 dakika bekletiyorsam veya UI'ımda, benim arayüzümde gelip ne yapması gerektiğini çözmeye çalışıyorsa 10 dakika boyunca, o kullanıcıyı kaybetme ihtimalim çok yüksek. %80, %90 ihtimalle de kaybediyorum. O yüzden genelde sales marketing ile çok iyi birleştirerek bunu götürmek gerekiyor. Bir kullanıcı gelmeden zaten ürün hakkında belirli bir kontekste sahip olmak zorunda. Aynı zamanda ona sürekli olarak yardımcı olabilecek birisinin bulunması gerekiyor. İsterseniz 300-500 kişilik bir ekibi işe alabilirsiniz çok hızlı büyürken veya gerçekten AI'ı kullanırsınız ve oradaki cost kaleminizi 1000 kat azaltıp, belki 10.000 kat azaltıp sadece iyi geliştirilmiş bir tool ile çözebilirsiniz. En önemli noktalardan bir tanesi o bilgi aralığını kapatmak.

Yani UX alanında çalışanlar bunu net bir şekilde biliyordur. Gerçekten bir ürün içerisinde ben kullanıcının bildiği ve benim onun bildiğini sandığım ve bilmesi gereken nokta arasındaki boşluğu kapatabilirsem, o kullanıcı benim ürünümü kullanır. O kullanıcı benim platformuma gelir ve benim platformda istediğim aksiyonları alır. O bilgi aralığını kapatmak için az önce o bahsettiğim toplantılar yapılıyor. Content çıkarılıyor, bir sürü content paylaşılıyor, farklı platformlarda sürekli olarak kullanıcının önüne düşmeye çalışıyoruz. Ama o kullanıcı geldikten sonra neredeyse yarısı, bizim yaptığımız şu an anketlere göre, neredeyse yarısı, %50'ye kadarı mutlaka support ekibine ya ulaşıyor ya bir soru soruyor ya da farklı platformlarda %80-90'a yakın arama yapıyor. Yani Google'a giriyor, Perplexity'ye giriyor ve diğer kanallardan mutlaka o ürünle alakalı problemini çözmeye çalışıyor.

Operations, ben bir önceki şirkette ops ekibinde çalışıyordum. Ops ekibinde çalışmak gerçekten zor bir iş bir yandan. Çünkü tüm her şeyi kontrol etmeniz gerekiyor. Özellikle bir mühendis olarak girdim ve mühendis olarak design, marketing, ürün API'ları, backend'i, frontend'i ve diğer kanallardan product manager'ımız da yoktu, o tarafta da çok iş alıyordum. Bunu yaparken ChatGPT yoktu elimde ve o zamanki hızımı hatırlıyorum. O zaman işte benim tüm bu fonksiyonları yerine getirmem, bir haftada, iki haftada yapılacak işi tamamlamam gerçekten bir veya iki hafta alıyordu. Ve benim o iki haftada yaptığım işi, ben özellikle GPT-4'ten sonra yaklaşık olarak bir güne sıkıştırabilir hale geldim.

Yiğit birazdan o tool'lardan bahsedecek zaten. Ama kendi ops ekibinizde de bahsettiğim gibi yaklaşım bundan sonra bence şu olmalı: Eğer benim bir fonksiyonum varsa işletmemin içerisinde ve ben o fonksiyonu iyileştirmek istiyorsam, AI'ı nasıl kullanırım diye değil, ben aslında şu an bunu nasıl çözerim, hangi insan kaynaklarına ihtiyacım var, hangi kaynaklara ihtiyacım var sorusunu sorup, sonra oradaki o insanın düşünmesi gereken, bir profesyonelin alması gereken kararları AI'a nasıl aldırtırım, bunu sormak ve bunu kovalamak gerekiyor. Çünkü bunu kovaladığınız zaman o bahsettiğim zeki varlık aslında o kararları alabilir hale geliyor. Eğer doğru girdileri verirseniz ona, doğru bilgileri kullanmasını sağlarsanız gerçekten doğru kararları alıyor. Sunumum olabildiğince sade olsun istedim ama bir paper var, onu paylaştırırım bir şekilde size.

O paper'da şundan bahsediyorlar: Bir şirketin CEO'sunu GPT-4 ile değiştiriyorlar. GPT-4'e o fonksiyondan bahsediyorlar ve GPT-4 bir hafta boyunca ekibin tüm kararlarını ve yönetimini sağlıyor. Ve ekipteki kimseye bu söylenmiyor. Yazı stilini ayarlıyorlar ve yazı stilini ayarladıktan sonra görüyorlar ki neredeyse performans açısından hiç fark yok. Hatta belirli bir improvement görüyorlar. Çünkü response time çok daha hızlı oluyor. Normalde CEO'nun geri dönüş yapması bir veya iki saat alacakken, gerçekten o response'u 30-40 saniyede, bir dakikada, iki dakikada herkes alıyor. Yani operasyon aslında bilgi paylaşımı demek.

Ekip içerisinde biz search base olarak ilk yola çıktığımızda da ekipler içerisindeki tam böyle bilgi paylaşım problemine odaklanıyorduk. Ve o bilgi paylaşımını kısaltmak, hızlandırmak gerçekten şu an mümkün. Sadece hızlandırmakla kalmayıp, bunu eksponansiyel olarak, yani üstsel olarak da hızlandırabilirsiniz. Çünkü bahsettiğim gibi insanlarla iletişim kuran bir yapıdan bahsediyoruz ve şu an insanları güçlendirmek gerekiyor. Bu tool'lar kullanıldıkça 100x, 1000x daha productive olan insanlar karşımıza çıkmaya başlayacak. Where are all the hyper productive people diye bir essay yazılmıştı A16Z ekibinden bir yatırımcı tarafından. Okumanızı mutlaka tavsiye ederim. O makalede bayağı bahsediliyor. Yani bu tool'ların üretkenliği nasıl etkilediği ve bu üretkenliğin nereye gidebileceği çok kritik. Top performer'lardan konuşuyoruz her zaman. Operasyon ekibinde hatta çok öne çıkarlar.

Bir ekipte çok iyi çalışan, top perform eden kişiler kendini çok gösterir ve genelde böyle 10x developer veya 100x developer derdik buna. Ama şu an bu gerçekten böyle 1000x'e, 10.000x'e gidebilecek bir noktaya geldi. Ve bunu sağlayan tek şey de aslında o zekaya erişim. Zekanın aslında çok daha ucuz bir şekilde erişilebilir olması. Bununla beraber evet, yani AI'ı intern gibi kullanıp gerçekten tüm sevmediğiniz işleri verebilirsiniz. Ben öyle yapıyorum. Bazen arada girip kontrol etmek gerekiyor ama ben mühendisim yani. Ürün severim ama gerçekten özellikle koda odaklanmayı çok isterim ve maker schedule, manager schedule vardır. Benim takvimimde toplantılar çok arttı son zamanlarda özellikle biz büyümeye başladıktan sonra. Ama gerçekten bir ürünü geliştirmek için, böyle odaklanmak için 4-5 saatlik zaman dilimleri lazım ve o zaman dilimini yaratmak, özellikle yoğun bir toplantı schedule'ına sahipseniz imkansız neredeyse.

Ben o yüzden olabildiğince AI'ı intern gibi kullanıp, response vermem gereken yerlerde toplantıdansa olabildiğince asenkron bir şekilde ilerlemeye çalışıyorum. Ekip içerisinde de ekibi götürürken de aynı şey geçerli yine. Ve customer support. Yani bahsettiğim defalarca customer support'un ne kadar cost yaratabileceği ilk başlarda belli olmuyor. Zaten biliyoruz, parayı yatırabiliriz şeklinde devam ediyor. Ama o büyüme arttıktan sonra o cost kalemi de çok hızlı artmaya başlıyor. Ve asıl problemi scale etmiyor. Yani 1000 kişilik bir support ekibini eğer çok büyük bir enterprise'sanız bile çok iyi yönetemiyorsunuz. Mutlaka patlıyor, kullanıcı deneyimi mutlaka kötüleşiyor, kullanıcı memnuniyeti çok azalıyor. Bunu düzeltmenin yolu ise aslında human-assisted bir şekilde ilerlemek.

Ben tamamen replace ederim demiyorum. Gerçekten önemli olan şu: Hyper productive olacak. Yani bu tool'ları kullanarak sizin ekibinizde halihazırdaki performansının 100 kat daha fazlasını sergileyecek insanlara bu tool'ları sağlamak, şirket içerisindeki bu optimizasyonları yapmak aslında önemli olan nokta. Ve kritik şeylerden bir tanesi doğru data'yı vermek, doğru şekilde öğrenmesini sağlamak. Yani bir LLM'i şu an çalıştırmak için girdiğinizde ChatGPT'ye veya diğer tool'ların hepsine bir prompt vermeniz gerekiyor. Açıklamanız gerekiyor ne yapmasını istediğinizi. Bir noktada Alzheimer'lı gibi yaklaşmak gerekiyor onlara. Onlara vermediğiniz hiçbir şey yok onların hafızasında. Yiğit'in kullandığı örneklerden bir tanesi, çok severim bunu da. Gerçekten Alzheimer'lı bir insanla konuşuyormuşsun gibi yaklaşmak gerekiyor.

Çünkü o vermediğin her şeyi unutacak. Vermediğin her şeyi unutmakla kalmayacak, hata yapmaya başlayacak. Halüsinasyon dediğimiz problemi göreceksiniz. Yani olmayan gerçekleri uydurmaya başlayacak. Bunun olmaması için o bilgileri çok net bir şekilde tüketmiş olması gerekiyor. İlk başlarda privacy concern'ünüz varsa bile API'lar üzerinden denemeler yapabilirsiniz. Sonrasında kendi modellerinizi geliştirmek ve eğitmek tarafına ekibinizi yönlendirebilirsiniz. Ama ciddi bir know-how gerekiyor ve Türkiye'de ve özellikle şu an sektörde o daha oluşmuş durumda değil. Hatta Türkiye'de şu an için AI alanında çalışan CEO dışında bunu ileri iten şirkette ne yazık ki fazla yok. Bununla beraber şey de yok. Kültür açısından AI tarafında San Francisco'da her hafta sonu bir hackathon düzenleniyor. Her hafta sonu mühendisler, product'ta çalışan insanlar, designer'lar geliyor ve yeni bir şey üretiyorlar.

Ve her hafta böyle gerçekten bizim aklımızı çelecek yeni bir teknoloji ortaya çıkabiliyor. Bizde o kültür yok. Geçen hafta sonu bir küçük başlamış olduk ona ve nereye gideceğini çok merak ediyorum ben bir noktada. Bununla beraber dediğim gibi en önemli nokta aslında o human-assisted tarafını çözmek. Operasyon için ve tüm AI'ı kullanacağınız senaryolar için şu an AI'ın yapamayacağı şeyler var. Zaten her şeyi yapabiliyor olsa biz belki de işimizi kaybetmiş olurduk. O yüzden yapamadığı noktalarda kendi ekibimizi doğru konumlandırmamız gerekiyor. O ekibi doğru konumlandırmakla birlikte aslında üretkenliğinizi ve veriminizi çok arttırabiliyorsunuz. Ve dediğim gibi zeki bir varlık olarak yaklaşmak gerekiyor. Bunun üzerine defalarca basacağım. Çünkü Sam Altman'ın kullandığı bir söz vardı.

Intelligence on demand dedi OpenAI'ın API'ı için, GPT-4 için. Intelligence on demand yani ben istedikçe bana hizmet eden bir zeka, zeki bir varlık. Zeki bir varlık demek belki çok high level kalıyor ama şu an ben yeni birini işe aldığımda, junior birini işe aldığımda onu benim onboard etmem ve ona gidip benim şirketin nasıl çalıştığını, her şeyi anlatmam bir ayımı bulabiliyor. Hızlı öğrenen birisi en azından bir hafta sürüyor. Onu onboard ederken bana soracağı sorular ve ilerleyeceğimiz şeyler zaten benim vaktimi alan işler bu arada. Onları ben şu anki ekibime alacağım junior'ları örneğin AI ile güçlendirip, kendi AI bilgi havuzumu güzelce oluşturup, promptlarımı hazırlayıp, ekibimin kullanacağı tüm tool'ları ayarladıktan sonra bu junior'ı hızlı bir şekilde onboard edebilirim.

Şu an günümüzde bunu anında kurgulayabilirim ekibimin içerisinde. Ve ilerledikçe de bunu artık otomatize hale getirebilirim. Zaten AI'ı öğretmekten bahsettik. Junior birini öğretirken AI'a öğreteceğiniz şeylerin de çoğunu aslında data'yı özellikle üretmiş oluyorsunuz. O sürece de eğer zeki bir varlık olarak yaklaşacaksanız LLM'e, nasıl bir insana öğretiyorsanız, onun da nasıl çalıştığını biraz anladıktan sonra ona da aynı şekilde öğretebilirsiniz. Hafıza probleminden konuştuk. Hafıza problemini embedding dediğiniz farklı bir tür modelle çözebiliyorsunuz aslında ve vektör database'lerinde tutuyorsunuz ve size bu şeyi sağlamış oluyor. O zekanın gerçekten hafıza problemini çözmenizi sağlıyor. Çok basit bir şekilde hatta. Şu an için biraz technical, biz de aslında o alanı kolaylaştırmaya çalışıyoruz ve kolaylaştıran şirketler var. End user'a ulaşacak bunlar ve end user'a ulaşırken belirli problemler var.

Her şirketin AI alanında çalışan, yaşayacağı optimizasyon problemleri, inference problemleri, cost problemleri olacak. Çünkü GPU'ya erişmek zaten zor. Compute'dan bahsettik. OpenAI'da var. API'ı kullanın deme nedenim şu: Biz GPU'yu bulamıyoruz şu an. Gerçekten GPU'yu bulmak ve ona maddiyat ayırmak çok zor. Çok da masraflı bir şey. Hatta görmüşsünüzdür, San Francisco'da 1 milyar dolar yatırım alan şirketler neredeyse bunun %80-90'ıyla sadece kendi compute cluster'larını, süper bilgisayarlarını oluşturuyorlar. O yüzden baştan beri böyle küçük testlerle ürün içerisine, kendi ekibiniz içerisine, şirketinizin içerisine entegre ederseniz AI'ı, zamanla zaten ihtiyaç duyacağınız tüm datalar ve o know-how oluşmuş olacak. Benim gördüğüm problemlerden biri konuştuğum diğer şirketlerle şuydu: Bir anda girip her şeyi yapmak istiyorlar.

Mümkün değil. Benim şu an AI ve LLM alanında buraya kadar gelmem, 2018'de AI ile başlayıp son bir yıl içerisinde 7/24 çalışmakla oldu ve o know-how'ı ve insight'ları yakalamış oldum. Ama benimle beraber bu alanda çalışan bir sürü şirket var, bir sürü startup var ve hepimiz aslında sıfırdan başladık. Gerçekten ilk başladığımda dürüst olmak gerekirse semantic search dediğimiz o anlamsal aramayı bile yaparken çok hakim değildim. Çünkü daha önce uğraşmadığım, girmediğim bir alandı. Ama şu an onunla alakalı open source bir kütüphane yazdık ve aynı zamanda bu kütüphaneyi yaklaşık 2000'den fazla projede kullanılır hale geldi ve hızla da büyüyor.

Zamanla olan şeyler, şirket için de aynı şey geçerli. Özellikle bir ekibi, bir organizasyonu böyle yine şey olarak gidelim. Hepimiz aslında bir organik bilgisayarız. Organizasyon ve şirket de aslında böyle toplu bir organizma halinde ilerleyen bir bilgisayar ve bir zeki varlık olarak, bir varlık olarak yaklaşalım. Bir zekası var o organizasyonun. Alacağı aksiyonlar ve alacağı kararlar var. Onu optimize etmek için de zaman gerekiyor. O zamanı benim önereceğim şey şimdiden hemen kazanmaya başlayıp kullanmaya başlamak gerekiyor. Dinlediğiniz için çok teşekkür ederim. E-mailimi bıraktım. İstediğiniz zaman istediğiniz soruyla yazabilirsiniz bana. Teşekkürler.

Bu transkript, yapay zekâ destekli konuşma tanıma modeli ile oluşturulmuş ve dil kurallarına göre doğrulanmıştır.

İçerik yazarı

Zeo's Guest

author

İletişim

Verilerinizi nasıl işliyoruz

Tam sayfada aç