Prompt Engineering Temelleri: Pratik Bir Sözlük Girişi

Prompt engineering, bir dil modelini istediğiniz çıktıyı üretecek şekilde yönlendirmek için giriş metni yazma pratiğidir. Yazı ve hata ayıklama arasında bir yere oturur: geleneksel anlamda kod yazmıyorsunuz, ama modelin talimatları nasıl yorumladığı hakkında hipotezler test ediyorsunuz ve yanlış sonuçlar aldığında yineleme yapıyorsunuz.

Bir prompt aslında nedir

Bir prompt, bir modele yanıt üretmeye başlamadan önce gönderdiğiniz her şeydir — talimatlar, bağlam, örnekler ve gerçek soru ya da görev. Çoğu modern sohbet modeli bunu rollere böler: sistem mesajı (davranışı ve kısıtlamaları belirler), kullanıcı mesajları (gerçek istek) ve bazen asistan mesajları (önceki turlar ya da örnekler). OpenAI veya Anthropic gibi bir API kullanıyorsanız, bunları kodda açıkça ayarlarsınız. Bir sohbet arayüzü kullanıyorsanız, sistem prompt çoğu zaman gizli olur veya bir konuşmanın başında bir kez ayarlanır.

Neden aynı soru farklı cevaplar alır

Dil modelleri sonraki token'i, sizin ifadeniz, kelime sırası ve hatta noktalama işaretleri de dahil olmak üzere öncesine gelen her şeye dayanarak tahmin eder. "Rekürsiyonu açıkla" sorarsanız, jenerik bir ders kitabı cevabı alırsınız. "Rekürsiyonu döngüleri anlayan ama rekürsiyonu anlamayan bir junior developer'a, temel durumu ve rekürsif durumu içeren tek bir Python örneği kullanarak açıkla" sorarsanız, çok daha faydalı bir şey alırsınız. Girdinizin özgüllüğü, çıktının özgüllüğünü doğrudan şekillendirir. Başlangıçlıların bilmesi gereken ana fikir şudur: model fikrinizi okumuyordur, kelimelerinize karşı örüntü eşleştirmesi yapıyordur.

İlk olarak öğrenmeye değer çekirdek teknikler

Zero-shot prompting, örnek olmadan doğrudan sormak anlamına gelir: "ABD telefon numaralarıyla eşleşen bir regex yaz." Bu, yaygın ve iyi tanımlanmış görevler için gayet iyi çalışır.

Few-shot prompting, modele istenilen giriş/çıkış örüntüsünün bir veya daha fazla örneğini vererek, sonra ondan deseni devam ettirmesini istemek anlamına gelir. Modelden destek biletlerini kategorilere sınıflandırmasını istiyorsanız, önce üç etiketli örnek göstermek, yalnızca kategorileri metinle açıklamaktan çok daha tutarlı sonuçlar üretir.

Chain-of-thought prompting, modelinden son cevaptan önce adım adım muhakeme yapmasını ister, çoğu zaman tam anlamıyla "adım adım düşün" ekleyerek ya da ondan çalışmasını göstermesini isteyerek. Bu, matematik, mantık ve çok adımlı görevler için yardımcı olur, ancak token kullanımını ve yanıt uzunluğunu da artırır.

Role prompting, modele bir kişilik atanır — "Siz bu kodu güvenlik açıkları için gözden geçiren kıdemli bir güvenlik mühendisisiniz" — bu da tonu, kelime dağarcığını ve önem verdiği ayrıntı türünü değiştirebilir. Modele yeni yetenekler vermez, ancak çıktı stilini sabitler.

Yapı zekaliliktan daha önemlidir

Başlangıçlılar sıklıkla prompt engineering'in sihirli bir cümle bulmak olduğunu varsayarlar. Pratikte, yapı neredeyse her zaman zekaliliktan üstün gelir. Promptunuzu açık bölümlere ayırın: bağlam, görev, kısıtlamalar ve format. Örneğin:

Bağlam: Güvenlik denetimi için bir Python Flask uygulamasını gözden geçiriyorsunuz.
Görev: Aşağıdaki kodda SQL injection riskleri belirleyin.
Kısıtlamalar: Yalnızca /login ve /search rotalarındaki sorunları işaretleyin.
Format: Satır numarası ve tek cümlelik açıklama içeren numaralı bir liste döndürün.

Bu tür açık biçimlendirme belirsizliği azaltır ve çıktıları bir komut dosyasında promptları birbirine bağlıyorsanız programlı olarak ayrıştırmayı kolaylaştırır.

Başlangıçtaki yaygın hatalar

Sık bir hata, kısalık olarak maskelenen belirsizliktir — "bunu daha iyi yap" demek "daha iyi" neyi ifade ettiğini tanımlamadan (daha hızlı mı? daha okunabilir mi? daha güvenli mi?). Başka bir hata, tek bir promptu beş ilişkisiz görevle doldurmaktır, bu da beşinin hepsine sığ cevaplar üretme eğilimindedir, birinin sağlam cevabı yerine. Başlangıçlılar ayrıca modellerin, önceki konuşma geçmişini kodda açıkça geri geçmedikçe, ayrı API çağrıları arasında hiçbir hafızaya sahip olmadığını unuturlar, bu da durum tutan bir şey inşa ederken insanları yanıltır.

Bir mühendis gibi test etme ve yineleme

Promptları, bir kez atıp attığınız metin değil, sürümünü kontrol ettiğiniz ve test ettiğiniz kod gibi ele alın. Prompt varyasyonlarının ve çıktılarının bir günlüğünü tutun, özellikle üretim ortamında yeniden kullanacağınız herhangi bir şey için, örneğin bir müşteri destek botu ya da kod inceleme asistanı. Küçük ifade değişiklikleri — "özet yap" vs "tam olarak üç madde noktasında özet yap" — anlamlı şekilde farklı sonuçlar üretebilir ve tek yol, sizin için neyin işe yaradığını öğrenmek, sonuç almak yerine, varsayım yapmaktan ziyade karşılaştırmayı kendiniz çalıştırmaktır.

Bu, gerçek şeyler inşa etmeye nasıl uyum sağlar

Promptlar güvenilir hale geldikten sonra, sonraki adım genellikle programlı kullanımdır: bir API'yi göreviniz için ayarlanmış temperature ve max_tokens ayarlarıyla çağırmak, hatalı biçimlendirilmiş çıktılar için yeniden deneme mantığı eklemek ve yanıtları bir kullanıcıya ulaşmadan önce doğrulamak. Prompt engineering'in burada düzenli yazılım mühendisliği disipliniile örtüştüğü yer ve bir sohbet penceresinde deneyler yapmaktan gerçek betikler yazmaya geçmenin iyi bir noktası budur.

Daha ileri gitmek istiyorsanız, Korra Studio'nun Python'da LLM API'leriyle çalışmak ve sıfırdan küçük yapay zeka destekli araçlar inşa etmek hakkındaki segmentlerini kontrol edin.