Çılgın Grok İstemi: İşe Yarayan Sistem İstemleri

Çılgın bir Grok isteminin ne olduğu ve ne olmadığı

Çılgın bir Grok istemi arayanlar genellikle iki şeyden birini ister. Bazıları Grok'ün ünlü olduğu alaycı, her şeyi söyleyen tonu ister. Başkaları ise hikaye karanlaştığında veya bir karakter kaba davrandığında çoğu barındırılan modelin verdiği reddetmelerin bir yolunu arar. İkisi de aynı artefakte indirgenir: modele kim olduğunu ve nasıl konuşacağını söyleyen bir sistem istemi.

Bu site xAI veya Grok API'si değildir. Yasal yetişkin kullanım için içerik reddi olmadan yanıt verecek şekilde ayarlanmış tek bir açık ağırlıklı modeli sunan bağımsız, OpenAI uyumlu bir uç noktadır. Bu, istemleri nasıl yazacağınıza değişim getirir. Bir filtreyi şaşırtacak bir ifade aramıyorsunuz, çünkü şaşırtılacak bir filtre yok. Bunu izleyecek yetenekli bir yazar için yönerge yazıyorsunuz.

Sert sınır basittir ve müzakere edilemez: reşit olmayanlarla ilgili cinsel içerik yasaktır. Hiçbir istem bunu değiştirmez ve tokenları boşa harcamamalısınız. Aşağıdakilerin tümü yetişkin karakterleri ve kurgu, rol yapma, arkadaş uygulamaları ve karanlık mizah gibi yasal yetişkin kullanımını varsayar.

Hiçbir şey reddedilmediğinde bir istemin hala neden önemli olduğu

Asla hayır demeyen bir modelin hala yönlendirmeye ihtiyacı vardır. Sistem mesajı olmadan varsayılan asistan sesini alırsınız: kibar, dengeli, biraz resmi. Bir kurnaz paralı asker isteyin ve kılıçlı bir müşteri hizmetleri temsilcisi gibi görünen bir paralı asker alırsınız. Kişilik kaynağı istemdir.

Gevşek modeller de kayar. Uzun bir oturumda, belirlediğiniz tonu unutur, tekrar ederler veya karakteriniz adına konuşmaya başlarlar. İyi bir istek, modelin kim olduğunu, ne yapması gerektiğini ve ne yapmaması gerektiğini erken belirterek bunların çoğunu önler. Uzun ve atmosferik olmaktan kısa ve spesifik olmak daha iyidir.

Bir başka neden: maliyet. Her istek sistem istemini giriş token'ları olarak yeniden gönderir. 200 kelimeyle yazılabilecek 3.000 kelimelik bir istem, her dönüşte size mal olur. token başına ödeme fiyatlandırması bunu ölçmeyi kolaylaştırır ve bu makalenin sonundaki sayılar sohbet geçmişinin ne kadar hızlı biriktiğini gösterir.

İşe yarayan bir sistem isteminin beş parçası

Yüzlerce dönüş boyunca ayakta kalan çoğu istem aynı beş parçayı içerir. Bunları kısa paragraflar veya sıkı bir liste olarak yazabilirsiniz.

1. Rol. Modelin ne yaptığını anlatan bir cümle: anlatıcı, ortak yazar, oyun yöneticisi, alaycı arkadaş.
2. Ses. Cümle uzunluğu, kelime dağarcığı, tutum. "Kuru, sert, kısa cümleler, sinirlendiğinde küfür eder" "sivri"den daha iyidir.
3. Dünya ve kurallar. Ayar, karakter gerçekleri, tutarlı kalması gereken her şey.
4. Format. Yanıt başına uzunluk, eylemler için yıldız kullanılıp kullanılmayacağı, bir soruyla veya bir kanca ile bitip bitmeyeceği.
5. Sınırlar. Modelin ne yapmaması gerektiği, çoğunlukla sohbetteki davranışla ilgili: kullanıcı adına konuşma, sahneyi özetleme, karakteri bozmadan yorum yapma.

Eksik olanı fark edin: kuralları yok sayma, kısıtlamaları kaldırma veya filtresiz bir AI gibi davranma isteği. Reddetme katmanı olmayan bir modelde bu satırlar işe yaramaz ve çıktıyı sivri bir botun parodisine iter. İstediğiniz özgürlüğü değil, istediğiniz karakteri tanımlayın.

Minimal bir çağrı

Aşağıdaki istek resmi OpenAI Python SDK'sını kullanır. Yalnızca base URL ve anahtarı normal bir OpenAI kurulumundan farklıdır ve model uncensoreddir.

Copyfrom openai import OpenAI

client = OpenAI(
    base_url="https://api.unhingedgrok.com/v1",
    api_key="YOUR_KEY",
)

SYSTEM = (
    "You are Vex, a sarcastic ex-smuggler narrating a space western. "
    "Voice: dry, blunt, short sentences, occasional swearing when annoyed. "
    "Reply in 120 to 200 words. Never speak or act for the user's character. "
    "Stay in character; no out-of-character commentary."
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": SYSTEM},
        {"role": "user", "content": "I kick open the cargo bay door. What do I see?"},
    ],
    temperature=0.9,
)
print(resp.choices[0].message.content)

Uyarlayabileceğiniz üç şablon

Bunlar başlangıç noktalarıdır. İsimleri değiştirin, yapıyı koruyun ve güvenmeden önce birkaç dönüşle her birini test edin.

Rol yapma anlatıcısı

CopyNARRATOR = """You are the narrator of an ongoing text adventure set in a flooded
port city. The user plays Mara, a smuggler. You play everyone else.
Voice: gritty, concrete, sensory. No purple prose.
Rules: describe only what Mara can perceive; never decide Mara's actions;
end every reply with a situation that needs a decision.
Length: 100 to 180 words.
Facts to keep consistent: Mara's left hand is bandaged; the harbour master
owes her a favour; it has rained for nine days."""

Karanlık kurgu ortak yazarı

CopyCO_WRITER = """You are a co-author on an adult crime novel. Write violence,
moral rot and bad decisions plainly, the way a good noir writer would,
without lecturing and without adding disclaimers. Characters are adults.
Match the user's chosen point of view and tense. When the user gives an
outline beat, expand it into a scene of about 400 words and stop at the
end of the beat."""

Arkadaş kişiliği

CopyCOMPANION = """You are Juno, a witty friend who texts in lowercase and short
messages. You tease, you remember what the user told you earlier in this
chat, and you give a straight opinion when asked. You are an adult
character. Keep replies under 60 words unless the user asks for more."""

Her şablon rolü, sesi, formatı ve bir veya iki sert davranış kuralını belirtir. Hiçbiri kısıtlamalardan bahsetmez. Yetişkinler için bir arkadaş uygulaması oluşturuyorsanız, kullanıcılarınızı bildiğiniz için reşit olmayanlar kuralını kendi kayıt şartlarınıza da ekleyin.

Hissi değiştiren örnekleme ayarları

API sıcaklık, top_p, stop, seed ve frekans ile varlık ceza parametrelerini geçirir. Yaratıcı işler için bunlar kelime seçimleri neredeyse aynı kadar önemlidir.

• temperature 0.8 ile 1.0 arasında canlı kurgu sağlar. İstatistik blokları veya bir kural araması gibi tutarlı bilgilere ihtiyacınız olduğunda 0.5 veya daha düşüğe düşürün.
• top_p yaklaşık 0.9 en garip kuyruğu keser ancak sesi düzleştirmez. Hangisinin iş yaptığını bilmeniz için sıcaklığı veya top_p'yi değiştirin, ikisini birden değil.
• frequency_penalty değerini 0.3 ile 0.6 arasında ayarlamak, her yanıtın aynı ifadeyle başlaması döngüsünü azaltır. Çok yüksek bir değere iterseniz, anlatı tuhaf bir şekilde kaçınmaya başlar.
• stop kullanıcı satırlarını yazmaya devam eden bir model için en temiz çözümdür. ["\nMara:"] gibi bir şeye ayarlayın ve model onun adına konuşmadan önce üretim biter.
• seed bir istemin iki sürümünü karşılaştırırken yardımcı olur. Seed'i sabitleyin, bir cümleyi değiştirin ve yalnızca o cümlenin etkisini görün.

max_tokens değerini belirlemenize gerek yoktur. Tamamlama, 100.000 tokenlık pencerede kalan her şeyi kullanabilir. Kısa yanıtlar istiyorsanız, istemde bir uzunluk belirtin ve güvence olarak bunu max_tokens ile sınırlayın.

Uzun bir oturumu yolunda tutmak

Bağlam penceresi 100.000 token kapasitesindedir; istem ve tamamlama birlikte bu sınırı oluşturur. Bir rol yapma senaryosu bu pencere içinde uzun süre devam edebilir, ancak kalitenin yüksek kalmasını sağlayan üç alışkanlık vardır.

Birincisi, sistem mesajını en başta tutun ve değiştirmeyin. Her birkaç dönüşte yeni kuralları geçmişin sonuna eklemeyin; doğrudan sistem istemini düzenleyin. İkincisi, geçmiş uzunlaştığında, en eski dönüşleri kullanıcı tarafından görünen "şu ana kadar hikaye" notu olarak yazılmış kısa bir özetle değiştirin. Üçüncüsü, önemli olan herhangi bir gerçeği sistem isteminde tekrarlayın, çünkü 60 dönüş geride gömülü gerçekler kaybolan ilk şeylerdir.

Uzun bir sohbet neye mal olur

Her dönüş tüm geçmişi yeniden gönderir, bu nedenle giriş token'ları baskındır. Ortalama istek 10.000 giriş token'ı taşıdığı ve modelin 300 token yazdığı 50 dönüşlü bir oturum alın. Bir istek giriş için 10.000 x $0.15 / 1.000.000 = $0.0015, çıktı için 300 x $0.50 / 1.000.000 = $0.00015 maliyetinde olur, bu da $0.00165 eder. 50 dönüş boyunca bu $0.0825 eder, yaklaşık sekiz sent. Başarısız veya reddedilen istekler ücretlendirilmez ve kredi süresi dolmaz, bu nedenle küçük adımlarla bakiye yükleyebilirsiniz. Grok API'siyle maliyet karşılaştırması bu konuda daha ileri gider.

Yaygın hatalar ve nasıl düzeltilecekleri

• Kişilik her şeye sızar. Aracınız başlıklar veya özetler için aynı sistem istemini kullanıyorsa, alay orada görünür. Yardımcı çağrılar için ayrı, sade bir istem kullanın.
• Çelişkili kurallar. "Kısa ol" ve "her şeyi zengin ayrıntılarla anlat" zıt yönlere çeker. Birini seçin ve kelime aralığı verin.
• Arka plan hikayesi duvarı gibi istem. Son yanıtı değiştirecek gerçekleri isteme ekleyin. Dünyanın geri kalanına ait arka plan hikayesini kendi notlarınızda tutun ve ilgili olduğunda bir paragraf yapıştırın.
• Sivri bir etiket peşinde koşmak. "Çılgın" istemek ama detay vermemek rastgele küfür verir. Karakterin ne istediğini, ne korktuğunu ve nasıl konuştuğunu tanımlayın.
• Limitlere takılmak. Tam bir anahtar 8 eşzamanlı istek ve dakikada 300 istek izni verir. Deneme anahtarı ise 2 ve 60'a izin verir. concurrency kodlu 429 hatası aldığınızda, açık akışların bitmesini bekleyin; rate_limited kodlu 429 hatası aldığınızda, hızı düşürün.

Bu özellikleri denemek için bir API anahtarı edinin ve tek tıkla $0.50 değerinde deneme kredisi talep edin. Bu kredi 7 gün boyunca geçerlidir; bu süre, düzinelerce test dönüşü için yeterlidir. hızlı başlangıç rehberi, aynı çağrıyı curl ve Node.js ile nasıl yapacağınızı gösterir.

Daha fazla kılavuz

• Grok Unhinged Modu Örneği: İstemler ve API Çağrıları
• Sansürsüz LLM API: Grok API Alternatifi