Yapay zeka entegrasyonu: demodan üretime

Hangi yapay zeka işlerini yapıyoruz?

Ana sayfamızda "Yapay Zeka Ürünleri ve Otomasyon" başlığı altında dört iş türü sayıyoruz. Yapay zeka entegrasyonu dediğimizde kastettiğimiz bunlardır:

• Sohbet ve destek asistanları. Müşterinizin ya da ekibinizin sorularını, sizin bilginiz ve sizin sisteminizle yanıtlayan asistanlar. Yapay zekanın neyi bildiğini ve neyi bilmediğini baştan tasarlamak, işin önemli bir parçasıdır.
• Otomasyon ve ajanlar. Bir iş akışındaki tekrarlı adımları üstlenen, yanlış yaptığında zararı sınırlı kalan sistemler.
• Kişiselleştirme. Kullanıcıya ya da müşteriye, davranışına göre farklı içerik ve öneri sunan özellikler.
• Karar destek sistemleri. İnsanın vereceği kararı hazırlayan, öneren ve gerekçesini gösteren sistemler; karar insanda kalır.

Portfolyomuzdaki Yapay Zeka Uygulama Üretim Platformu bu alandaki bir örnek: kullanıcı istediği uygulamayı sohbette anlatıyor, bir üretim hattı bunu çalışan koda dönüştürüyor, arkasında canlı önizleme ve tek tıkla yayına alma var. Üretilen her uygulama kendi izole Docker konteynerinde çalıştığı için bir fikri denemek ne platformu ne de başka birinin uygulamasını riske atıyor. Maket değil, gerçek ve canlı bir uygulama geri vermek; sohbet araçlarının çoğunun çözmediği ayrı bir problemdi.

Demodan üretime: yedi risk

Bir yapay zeka demosu gösterişli olabilir; üretimde ise gerçek kullanıcı, gerçek veri ve gerçek sonuçlar vardır. Aşağıdaki tablo, demodan üretime geçerken karşılaşılan yedi riski ve her birinde projenin başında yanıtlanması gereken soruyu gösterir.

Son satırın gerçek bir örneği mühendislik notlarımızda: Eylem Değil Öneri: Otonom Altyapı Agent'larının Arkasındaki Kontrol Düzlemi. Orada bir yapay zeka ajanının bir bulut sistemine doğrudan erişimi yok. Ajanın üretebildiği tek çıktı bir plan; planın uygulanıp uygulanmayacağına model değil, kural tabanlı ve deterministik bir kapı karar veriyor. Tehlikeli olan şeyin belirsizlik değil, özgüvenli yanlışlık olduğunu savunuyoruz; bu yüzden güvenliği modelin içine değil, onun dışındaki bir kontrol katmanına koyuyoruz.

Yapay zeka mı, kural tabanlı otomasyon mu?

Her otomasyon yapay zeka gerektirmez; bazıları için sade bir kural daha ucuz, daha hızlı ve daha öngörülebilirdir. Yapay zekanın gerçekten değer kattığı yer, girdinin serbest metin, belirsiz ya da çok çeşitli olduğu işlerdir.

Başlamadan önce yanıtlanması gereken sorular

Bazı konularda tek bir doğru cevap yoktur; cevap projeye, veriye ve riske göre değişir. Hangi yapay zeka sağlayıcısıyla çalışırsanız çalışın bu sorular baştan sorulmalıdır. Biz de aldığımız her teknik kararın nedenini yazılı hale getiririz.

Kalite nasıl ölçülecek ve izlenecek?

• Yayından önce "iyi sonuç" neye benziyor ve bunu bir örnek seti ile ölçebilir miyiz?
• Yayından sonra kalite düşerse bunu kim, nasıl fark edecek?
• Yapay zeka emin olmadığında kullanıcıya ne gösterilecek?

Veri nereye gidiyor?

• Hangi veri hangi sağlayıcıya gönderiliyor, orada saklanıyor mu, ne kadar süre ve nasıl siliniyor?
• Kişisel veri işleniyorsa KVKK kapsamındaki yükümlülükler neler? Bu, hukuk danışmanınızla birlikte değerlendirilmesi gereken bir konudur; bu sayfa hukuki görüş değildir.
• Veri ülke dışına çıkıyorsa buna sizin sözleşmeleriniz ve kullanıcılarınızla yaptığınız taahhütler izin veriyor mu?

Hangi model ve hangi kanal?

• Hangi modelin seçildiği ve neden seçildiği yazılı olarak kayıtlı mı?
• Model değiştiğinde ya da bir sağlayıcı koşullarını güncellediğinde sistem nasıl etkilenir?
• Asistan hangi kanalda yaşayacak: sitenizde, mobil uygulamanızda ya da WhatsApp gibi bir mesajlaşma uygulamasında? Her kanalın kendi kullanım ve mesaj kuralları vardır ve tasarımı etkiler.

Yapay zeka danışmanlığı mı, uygulama mı?

Biz bir strateji sunumu teslim eden bir danışmanlık firması değiliz. Gösterişe kaçmadan çalışan bir yazılım kurmayı hedefliyoruz. Yapay zekanın hangi işiniz için anlamlı olduğunu konuşuruz, ardından onu çalışan bir sisteme dönüştürürüz. Yapay zekanın doğru çözüm olmadığı bir durumla karşılaşırsak bunu da söyleriz; ana sayfamızda yazdığımız gibi doğru zaman mı, doğru eşleşme mi diye dürüstçe konuşuruz.

Mevcut ürününüze yapay zeka eklemek

Yapay zeka çoğu zaman sıfırdan bir ürün değil, mevcut bir ürünün içine eklenen bir katmandır. Web uygulamanıza ya da mobil uygulamanıza bir asistan, öneri ya da otomasyon eklemek, mevcut yapınıza uyum, veri akışı ve yetkilendirme gibi sorunları da beraberinde getirir. Elinizdeki sistem hazır değilse ya da bir fikirden başlıyorsanız, ilk sürümü MVP geliştirme yaklaşımıyla çıkarmak çoğu zaman daha doğrudur.

Nasıl çalışıyoruz?

Her proje ilk görüşmeden teslime aynı dört adımdan geçer; ayrıntıları Süreç sayfasındadır. Yapay zeka projelerinde en çok değer ilk iki adımda üretilir, çünkü yapay zekanın neyi çözeceği ve neyi çözmeyeceği orada belirlenir.

1. Keşif. Yapay zekadan ne beklediğinizi, bunun yapay zeka olmadan çözülüp çözülemeyeceğini ve iyi bir sonucun neye benzediğini iki taraf da aynı şeyi anlatana kadar konuşuruz. O resim netleşmeden hiçbir şey inşa edilmez.
2. Kapsamı belli bir teklif. Ne yapılacağı, hangi sırayla ve ne kadara olacağı yazıya dökülür; siz onaylamadan iş başlamaz.
3. Görünür geliştirme. Canlı proje panelinden ilk haftadan itibaren gerçek ilerlemeyi izler, yapay zekanın nasıl davrandığını erken görerek yön verirsiniz.
4. İnceleme ve teslim. Siz incelersiniz, biz rötuşlarız, ardından teslim ederiz.

İlk görüşmeye ne getirmelisiniz?

Hazırlıklı gelmeniz gerekmez; ilk görüşme gerçek bir konuşmadır. Yapay zeka projelerinde şu dört şey konuşmayı hızlandırır:

• Gerçek örnekler. Sistemin alacağı girdilerden ve olması gereken cevaplardan birkaçı; "iyi sonuç"u anlatmanın en kısa yolu.
• Verinin durumu. Verinin nerede durduğu, kimin eriştiği ve paylaşılmaması gereken kısımlar.
• Hatanın bedeli. Sistem yanlış söylerse ne olur, kimin zararı olur?
• Kullanıcı ve kanal. Sistemi kim, nerede, hangi sıklıkla kullanacak?

Kaynak kod, altyapı, erişim ve devir

Teslim edilen işin mülkiyeti, proje bedelinin tamamı ödendiğinde size geçer; projenizden önce de var olan kendi araçlarımız ve kütüphanelerimiz bizde kalır (Kullanım Koşulları). Yapay zeka projelerinde işin içine bir de üçüncü taraf hizmetler girer. Model sağlayıcılarına ait API anahtarları ve benzeri erişimler Süreç sayfasındaki ilkeye tabidir: altyapı işi için paylaştığınız her şey şifrelenerek saklanır, yalnızca sizin projenizde kullanılır ve iş bittiğinde değiştirmekte ya da iptal etmekte özgürsünüz.

Siz aksini tercih etmedikçe barındırmayı ve dağıtım hattını biz kurar ve yönetiriz; kendi bulut hesaplarınız varsa dağıtımı oraya yaparız. Bir gün altyapıyı kendi bünyenize almak ya da başka bir ekibe taşımak isterseniz hesaplar, alan adları ve dokümantasyonla birlikte temiz bir devir için yanınızdayız. Sizin için işlettiğimiz hiçbir şey, bizimle kalmanız için bir koz değildir.

Kime uygun değiliz?

• Yalnızca bir yapay zeka stratejisi sunumu arıyorsanız. Biz çalışan sistem kurarız; strateji bunun yalnızca başlangıcıdır.
• Yapay zekanın hiç hata yapmayacağının garantisini arıyorsanız. Hiçbir yazılımın kesintisiz ve hatasız çalışacağı garanti edilemez; yapay zeka için bu daha da geçerlidir. Biz hatayı yok saymayıp tasarımın parçası yaparız.
• Hazır bir sohbet botu aboneliği işinizi görüyorsa. O zaman özel bir yapıya gerek yoktur ve bunu söyleriz.

Sık sorulan sorular

Yapay zeka entegrasyonu ne kadar sürer ve ne kadar tutar?

Kapsama bağlıdır, bu yüzden bu sayfada rakam vermiyoruz. Süreyi ve maliyeti hangi iş için kullanılacağı, hangi sistemlere bağlanacağı, kalite beklentisi ve hatanın bedeli belirler. Kapsam, takvim ve maliyet iş başlamadan yazılı teklifte yer alır ve fiyat sonradan değişmez.

Verilerimiz model sağlayıcısına gider mi?

Bu mimari karara bağlıdır. Barındırılan bir model kullanıldığında isteğin içeriği sağlayıcıya gider; bazı durumlarda veriyi göndermeden önce ayıklamak ya da farklı bir yapı kurmak mümkün olabilir. Hangi seçeneğin uygun olduğu verinin niteliğine bağlıdır. Kararı ve nedenini yazılı hale getiririz.

Hangi model kullanılır: ChatGPT, Claude ya da Gemini?

Model seçimi iş türüne, veriye, kalite beklentisine ve maliyete göre değişir. Seçimi gerekçesiyle birlikte yazılı hale getiririz; sizin tarafınızda cevaplanması gereken sorular ise yukarıda "Hangi model ve hangi kanal?" başlığında.

Mevcut sistemime yapay zeka eklenebilir mi?

Çoğu zaman evet; yapay zeka genellikle mevcut bir ürüne eklenen bir katmandır. Önemli olan, sistemin verisine nasıl erişileceği ve yetkilerin nasıl korunacağıdır. Mevcut sisteminizi birlikte inceleyip nereden başlanacağını yazılı teklife dökeriz.

Sohbet botu ile yapay zeka ajanı arasındaki fark nedir?

Sohbet botu konuşur ve soruları yanıtlar. Ajan ise bir görevi yerine getirmek için adımlar planlayabilir ve araçları kullanarak eylemde bulunabilir. Bu fark risk düzeyini de değiştirir: konuşan sistemin yanlışı bir yanlış cevaptır, eylem yapan sistemin yanlışı geri alınamayan bir sonuç olabilir. Bu yüzden ajanlarda hangi eylemlerin insan onayına bağlı olduğunu baştan belirleriz.

Yapay zeka hata yaparsa ne olur?

Yapar; bu yüzden hatayı baştan tasarımın bir girdisi sayarız. Yanlışın bedeli yüksekse sistem karar vermez, öneri sunar ve eylem insan onayına bağlanır. Mühendislik notlarımızdaki kontrol düzlemi yazısı bu ilkenin gerçek bir uygulamasını anlatıyor.