Asistan (ses ve sohbet)#

Maystro'nun asistanı sohbet panelinde ve sesle yanıt verir, uygulamada eyleme geçebilir: stüdyo değiştirir, prompt yazar, üretim başlatır. Yerel bir dil modelini llama.cpp'nin llama-server süreciyle çalıştırır; bu süreci Maystro kendisi başlatır ve durdurur. Makinenizden hiçbir şey çıkmaz.

Modeller#

Asistan modelleri, Modeller alanının (üst çubuk, Modeller) Asistan sekmesindeki isteğe bağlı paketlerdir:

Paket	Model	Boyut	Kullanım
Orkestrasyon	Qwen3 8B, Q4_K_M	4,7 GB	sesli komutlar, araç çağrıları, kısa sohbet
Yazar	Qwen3.8 27B, UD-Q3_K_XL, görüntü projektörüyle	13,1 GB	uzun işler: senaryo, prompt
Görsel	Qwen3-VL 8B, Q8_0, projektörüyle	8,8 GB	görselden prompt: resmi prompt kutusu ya da Prompt Builder için betimler

Üçü de Apache-2.0 açık ağırlıklardır. Görsel modeli yalnız Görselden Prompt ya da Görselden Doldur istediğinde yüklenir ve projektörünü GPU'da tutar. Aynı sekmedeki Görselden prompt - varsayılan vision modeli bu popover'ların hangi modelle başlayacağını belirler (katalog modeli ya da kendi GGUF'unuz); popover içinde seçtiğiniz model siz başkasını seçene dek kalır. Dosyalar model kökünüzün altındaki llm klasörüne iner. Sesli kontrol için orkestrasyon modeli yeter ve 16 GB kartta ses servisinin yanına sığar; yazar kartın tamamını ister ve yalnız bir yazar görevi istediğinde yüklenir. Asistan panelindeki model seçici, ses servisi kapalıyken sohbeti sunulan herhangi bir modelle, yazar dahil, yanıtlatmanızı sağlar. Yazar ayrıca brief'ten senaryo paketi yazar (Video Studio → Projeler → Brief'ten senaryo yaz); sunulan her GGUF bu rolü alabilir ve yazar bunun için 32k bağlamla koşar.

Ses servisleri#

Sesli yanıtlar ve uyandırma sözcüğü, asistanın yanındaki iki küçük servisten gelir (bir metinden sese sesi ve bir uyandırma sözcüğü dinleyicisi). Bu sürümde kurulu gelmezler: asistan ekranında LLM çipinin yanındaki ses çipi Ses servisleri kapalı der, Sesi test et düğmesi ile Uyandırma sözcüğü modu devre dışı kalır ve asistan yazılı yanıt verir. Yazılı sohbet ve mikrofon (Dokun-konuş) onlarsız da çalışır. Servislerin çalıştığı bir makinede çip onları hazır gösterir ve ipucu her birinin adresini listeler; başlarken boş bir port seçerler, başka bir programın aldığı ya da Windows'un ayırdığı bir port onları engellemez.

Sesli giriş (asistan ekranındaki mikrofon ve uyandırma sözcüğü) yerel bir konuşma tanıma modeli ister: Whisper Large v3 Turbo Modeller → Asistan → Konuşma tanıma altından kurulur, 1,6 GB'dir ve Türkçe ile İngilizceyi GPU'da yazıya döker. O yokken mikrofon kapalı kalır ve asistan ekranı nereden kurulacağını söyler; yazılı sohbet her durumda çalışır.

Kendi GGUF dosyanız#

Herhangi bir .gguf dosyasını bir model kökünün (birincil kök ya da ek kök) altındaki llm klasörüne koyup Asistan sekmesinde Klasörü yeniden tara deyin (ya da Maystro'yu yeniden başlatın); sunulan model listesinde dosya adıyla görünür. Adı mmproj ile başlayan ve modelin adını taşıyan bir projektör dosyası (Qwen3.8-27B-UD-Q3_K_XL.gguf yanındaki mmproj-Qwen3.8-27B-BF16.gguf) onun görüntü projektörü olarak alınır ve model görsel rozeti kazanır; bu onu Görselden Prompt için de seçilebilir yapar. Yazarın projektörü VRAM harcamasın diye sistem belleğinde tutulur; bir vision modeli (adında VL olan) projektörünü GPU'da tutar, görseller bir anda kodlanır. Birkaç modelin yanına konmuş genel adlı bir projektör (mmproj-F16.gguf) adıyla hiçbiriyle eşleşmez: sunulan listede o modelin satırındaki projektör seçicisinden seçin. Eşleme hatırlanır ve sunucu onunla yeniden başlar.

Aynı sekmedeki Kendi GGUF'unu ekle bir dosyayı (ve projektörünü) doğrudan herkese açık bir Hugging Face deposundan indirir: depoyu (sahip/ad), model dosya adını ve isteğe bağlı olarak projektör dosya adını girin. Dosyalar llm klasörüne eşleşen adlarla iner (<ad>.gguf + mmproj-<ad>.gguf); indirme satırları tamamlandı dediğinde yeniden tarayın. Sansürsüz varyantlar bilerek katalogda değildir; onları kullanmanın yolu budur. Getirdiğiniz ağırlıklar kendi lisanslarına tabidir.

İndirme sırasında Vireo sidecar çalışmıyorsa dosya Maystro kökünüzün yerel llm klasörüne iner; sidecar açıldıktan sonra da o klasör sunulmaya devam eder. Sunulan bir klasörde olup henüz sunulmayan bir GGUF (biten bir indirme, elle kopyaladığınız bir dosya) sunucu kartında Henüz sunulmuyor diye listelenir; yanında Klasörü yeniden tara düğmesi vardır.

Yazar ekran kartına nasıl sığar#

Bir yazar modeli yaklaşık 13 GB'tır ve kartı masaüstüyle ve Vireo sidecar'la paylaşmak zorundadır. Bir yazar işi modeli yüklemeden önce Maystro, modelin ihtiyaç duyduğu belleği (llama.cpp'nin o işin ayarları için kendi öngördüğü kadar) ve küçük bir payı kartın boş belleğiyle karşılaştırır ve şu sırayla yer açar:

sohbet modeli ve diğer asistan modelleri boşaltılır;
son görsel üretiminizin modelleri karttan RAM'e alınır (sonraki üretim onları bir saniye kadarda geri alır);
bir video işi az önce bittiyse Vireo'nun ılık servisi bırakılır (sonraki video işi onu birkaç saniyede yeniden kurar);
bu da yetmezse modelin ilk katmanları CPU'da çalışır — iş yine koşar ama daha yavaş (CPU'daki her katman yazma hızının kabaca %10–15'ine mal olur).

Yazar ayrıca tek istek yuvasıyla çalışır: yazar işi tek bir akıştır ve Qwen3.8 27B gibi hibrit bir modelde her fazladan yuva 32k bağlamda yaklaşık 0,6 GB ayırır. Sonuç yazar penceresinde ve Asistan sekmesinde modelin satırında görünür; örneğin GPU 66/66 ve GPU'da 66/66 katman · gereken 13.4 GB + 384 MB pay · boş 14.9 GB. Pay, maystroai.yaml içindeki agent_llm_vram_margin_mb ayarıdır; agent_llm_model_presets içinde kendi yerleştirdiğiniz bir model (n-gpu-layers, n-cpu-moe, override-tensor) sizin ayarladığınız gibi kalır.

Üretim sırasında#

Her üretimden ve eğitim koşusundan önce asistan modeli boşaltılır; GPU'nun tamamı işe kalır. Asistan panelindeki durum rozeti duraklatıldı gösterir, sohbet de duraklatıldığını söyler. Kuyruk yeniden boşalınca model kendiliğinden geri yüklenir — işin kartta bıraktıklarının yanına sığıyorsa.

Görsel üretiminden sonra Maystro görsel modelleri bir sonraki üretiminiz için kartta tutar; görme ya da sohbet modeli çoğu zaman onların yanına sığmaz. Bu durumda model, siz kullanana kadar boşaltılmış kalır: ilk istek (bir sohbet mesajı, Görselden Prompt, bir altyazı) görsel modelleri RAM'e alır ve asistan modelini boş kartta yükler. Bu ilk yanıt birkaç saniye uzun sürer (model yüklenir); sonrakiler boş karttaki kadar hızlıdır. Bu adım olmasa Windows modelin bir kısmını sistem belleğine taşır ve her yanıt kat kat uzardı (testimizde bir Görselden Prompt 1,5 s yerine 15 s sürdü). Sonraki üretiminiz görsel modelleri RAM'den geri alır. Rozetin ipucu ne olduğunu gösterir; örneğin kept Qwen3-VL-8B-Instruct-Q8_0 unloaded: needs 9.3 GB, 5.5 GB free on the card ya da made room for Qwen3-VL-8B-Instruct-Q8_0 in 0.6 s (moved the image models to RAM).

Durum rozeti#

Model seçicinin yanındaki rozet şunları söyler:

LLM hazır: bir model yüklü ve yanıtlıyor.
LLM boşta: sunucu açık; ilk istek modeli yükler.
LLM duraklatıldı: bir üretim ya da eğitim GPU'yu tutuyor.
Asistan modeli kurulu değil: bir paket kurun ya da bir GGUF ekleyin.
LLM sunucusu çalışmıyor: llama-server bileşeni eksik ya da başlamadı; nedeni için rozetin üzerine gelin.

Ayrıntılar için rozetin üzerine gelin: mod, llama-server yolu, model klasörü, port, yüklü modeller, son olay. Modeller alanının Asistan sekmesi aynı ayrıntıları bir kart olarak, ayrıca sunucunun sunduğu her GGUF'u boyutu ve yüklü olup olmadığıyla gösterir.

Asistan sizin için neler yapabilir#

Gezinmek ve Üret'e basmak dışında asistanın sizin adınıza çağırabildiği sunucu tarafı araçları vardır:

Video Studio: projeleri listeleme, bir projenin sahnelerini ve çekimlerini açma, proje/sahne/çekim oluşturma, ön ayarları listeleme, bir çekimin take'lerini listeleme, take seçme, take silme (tek tek ya da bir çekimin birkaç take'i birden), bütün bir sahneyi üretime alma.
Galeri: panoları listeleme, pano oluşturma, görselleri listeleme (panoya veya arama terimine göre), görselleri bir panoya taşıma ya da panodan çıkarma, görsel silme.
Görsel üretimi: kurulu görsel modellerini ve LoRA'ları listeleme ve bir prompt'tan açık boyut, adım, seed, pano ve LoRA'larla Krea 2, FLUX.2 Klein, SDXL ya da Z-Image görseli üretme; FLUX.2 Klein'da galeri görselleri referans olarak verilebilir, böylece "şu görseldeki kişinin portresini yap" çalışır. Tuval işleri (görselden görsele, inpaint, kontrol katmanları, SDXL refiner) yine ekrandaki ayarlar ve Üret ile. Galerinin metadata geri çağırma özelliği kullanılan LoRA'ları ve referansları geri yükler. Galerideki bir görselde seçilen kişilere Character Studio karakteri de verebilir ("sağdaki kadına Mia'yı uygula"): yalnız onların başı yeniden üretilir, bkz. Karakteri kişiye uygula.
Kuyruk: genel kuyruk durumu veya tek bir partinin durumu.
Training Studio: eğitim projelerini veri setleri ve koşularıyla listeleme, LoRA eğitimi başlatma, bir koşunun ilerlemesini görme.

Düz dille isteyin ("video projelerimi listele", "gölde bir kaz, 768×768 görsel üret", "2. çekimde hangi take seçili?"); asistan aracı seçer, kimlikleri kendisi bulur ve sonucu özetler.

Onay kartları#

GPU zamanı harcayan ya da geri alınamayan eylemler (bir sahneyi veya görseli üretmek, karakteri kişiye uygulamak, eğitim başlatmak, take ya da görsel silmek) asla asistanın sözüyle çalıştırılmaz. Sohbette tam olarak ne olacağını (kaç çekim, hangi model ve boyut, kaç adım) anlatan bir onay kartı çıkar; Onayla ve Vazgeç düğmeleri vardır. Siz onaylayana kadar hiçbir şey koşmaz; vazgeçmek, sohbeti temizlemek ya da beş dakika beklemek eylemi iptal eder ve asistan bunu size söyler.

Sesli kanalda kart okunur, ardından "Onaylıyor musun? Evet ya da hayır de." denir ve mikrofon yanıtınız için açılır: sesli evet, onayla, tamam ya da yes onaylar; hayır, vazgeç, iptal ya da no reddeder. Duyulan söz sohbete sizin satırınız olarak düşer ve kart Sesle onaylandı gösterir. Yanıt anlaşılmazsa asistan bir kez daha sorar, sonra kartı düğmelere bırakır; düğmeler baştan sona kullanılabilir.

Asistanın görsel modeli#

Asistandan bir görsel istediğinizde Krea 2, FLUX.2 Klein, SDXL ya da Z-Image ile üretir: burada sabitlediğiniz ana model mimariyi belirler, seçim yoksa Krea 2'dir (Krea 2 kurulu değilse ötekilerden kurulu olan ilki). Seçim yapılmazsa Maystro tahmin eder: önce katalogdan kurulan resmî Krea-2-Turbo, sonra ada göre (official, ardından turbo geçen bir model); Krea 2 Raw — eğitim tabanıdır, üretim modeli değildir — yalnız başka hiçbir şey kurulu değilse. Kendiniz getirdiğiniz topluluk birleşimlerinde böyle bir işaret yoktur ve onlarla dolu bir kütüphanede tahmin prompt'unuzu hiç dinlemeyen bir modele düşebilir. Modeli Modeller → Asistan → Asistanın görsel modeli altından seçin. Seçicinin altındaki satır her zaman gerçekte ne koşacağını ve nedenini söyler: sizin seçiminiz, bir tahmin, ya da sabitlediğiniz modelin artık kurulu olmadığı uyarısı. SDXL ve Z-Image'da tahmin, kuruluysa resmî checkpoint'i alır, değilse ada göre gider; istediğiniz birleşimi sabitleyin. İstekte başka bir mimariyi de isteyebilirsiniz ("FLUX.2 ile", "SDXL ile"). Tek dosyalık bir FLUX.2 Klein checkpoint'inin yanında eşleşen Qwen3 metin kodlayıcısı ve FLUX.2 VAE'si; tek dosyalık bir Z-Image checkpoint'inin yanında Qwen3 4B metin kodlayıcısı ve FLUX.1 VAE'si (ya da bunların alınacağı bir Diffusers Z-Image modeli) kurulu olmalıdır. İstekte verilmeyen adım ve CFG modelin varsayılan ayarlarından, yoksa mimariden gelir: Krea 2 8 adım, FLUX.2 Klein 4, SDXL 30 adım CFG 7.5, Z-Image 9 — damıtılmış modeller CFG 1'de koşar.

Görsel prompt'unu yeniden yazma#

Asistan görsel prompt'unu kendisi, İngilizce yazar ve küçük orkestrasyon modeli iyi bir çevirmen değildir (bir keresinde kaz ördek olmuştu). Modeller → Asistan → Görsel prompt'unu yeniden yazma bu adımı onay kartından önce ayrı bir çağrıya devreder:

Ayar	Ne olur
Kapalı (varsayılan)	Asistanın kendi prompt'u olduğu gibi koşar.
Orkestrasyon modeli	Küçük modelde odaklı bir çevir-ve-sıkılaştır çağrısı; hızlı.
Yazar modeli	Büyük yazar modeli prompt'u çevirip sıkılaştırır: en iyi çeviri, ama 16 GB kartta ses servislerinin yanına sığmaz, her yeniden yazma orada yavaştır. Yazılı sohbette en iyisi.

Yeniden yazma açıkken asistan sözünüzü kendi dilinizde olduğu gibi aktarır ve kart iki prompt'u da gösterir: verdiğiniz ve yeniden yazılmış olanı, yazan modelle birlikte. Kartın gösterdiği tam olarak koşan şeydir: yeniden yazma onay için saklanır, arkasından bir daha yapılmaz. Model yanıt veremezse, örneğin bir üretim GPU'yu tutarken, görsel yine orijinal prompt'unuzla sunulur ve kart nedenini söyler.

Harici harness'lar (MCP)#

İleri düzey: aynı sunucu tarafı araçlar Model Context Protocol ile http://127.0.0.1:9090/api/v1/agent/mcp adresinden de sunulur (Streamable HTTP). Herhangi bir MCP istemcisini bu adrese Maystro oturum token'ınızla (Authorization: Bearer <token>) ya da Yönetim → API anahtarları altında oluşturduğunuz bir API anahtarıyla (X-API-Key: msk_…) bağlayın; tam olarak hesabınızın araçlarını ve izinlerini alır. Onay gerektiren eylemler önce önizleme (bir confirm_token ile) döner, yalnız confirm: true ve o token ile yeniden çağrılınca çalışır; harness size kendi arayüzünde sorabilir. DeepSeek Harness (dsh) için hazır overlay depoda scripts/dsh/maystro-mcp.patch.yml olarak gelir: MAYSTRO_API_KEY değişkenini verip dsh'i --patch <o dosya> ile başlatın; araçlar mcp__maystro__… adıyla görünür. İsteğe bağlı ikinci overlay scripts/dsh/maystro-hooks.patch.yml, Maystro'nun masraflı araçlarından (üretim, eğitim, silme) önce dsh'in kendisinin de sormasını sağlar; onu da ayrı bir --patch olarak verin. Hook'u yalnız bir karar basar: Windows'ta dsh hook'ları çalışma alanı dışına yazamayan korumalı bir PowerShell'de koşturur ve orada düşen bir hook aracın koşmasına izin verir.

Dış araçlar için onay#

Önizlemeyi alan harness token'ı da almış olur — ve bazıları o önizlemeyi size sormak yerine kendileri yanıtlar (DeepSeek Harness headless koşuda bunu yapıyor). Bu yüzden Maystro kendi tarafında sorar. Modeller → Asistan → Dış araçlar için onay (MCP) altında, dış bir araç masraflı bir işlemi onayladığında ne olacağını siz seçersiniz:

Ayar	Ne olur
Maystro'da bana sor (varsayılan)	Çağrı sunucuda bekler ve uygulamada nerede olursanız olun bir kart çıkar. Maystro görünür sekme değilse sekme başlığı Onay bekliyor gösterir, kısa bir ton çalar ve ayarın altındaki Tarayıcı bildirimlerine izin ver'e bastıysanız bir tarayıcı bildirimi çıkar; kartın kendisi sekmeye döndüğünüzde çizilir. Onaylarsanız çalışır; reddederseniz harness'a reddettiğiniz bildirilir. Yanıt bekleme süresi (30 saniye – 10 dakika, varsayılan 90 saniye; harness'ın kendi araç zaman aşımından kısa tutun, DeepSeek Harness'ta 120 saniye) içinde yanıt vermemek reddetmek sayılır.
Dış araca güven	Çağrı hemen çalışır — bunu yalnız kendi yürüttüğünüz bir harness için seçin.
Masraflı işlemleri reddet	Dış araçlardan üretim, eğitim ve silme doğrudan reddedilir; bunları Maystro'da yapın.

Okuma, listeleme ve arama hiçbir zaman bu kapıdan geçmez — yalnız GPU zamanı harcayan veya geri alınamayan işlemler.

Asistan ne yaptı#

Sunucu tarafındaki her araç çağrısı Maystro kökünüzdeki logs/agent_tools.jsonl dosyasına yazılır: ne zaman, hangi araç, kim çağırdı (siz ya da bir harness'ın kullandığı API anahtarı), eylem mi yaptı önizleme mi döndü yoksa hata mı aldı, ne kadar sürdü. Prompt'lar ve uzun listeler kısaltılır, onay token'ları hiç yazılmaz. Dış bir harness'ın makinenizde gerçekte ne yaptığının kaydı budur.

Aynı günlük uygulamada Modeller → Asistan → Asistan ne yaptı altında gösterilir: en yeni çağrılar önde, araca göre süzülebilir; sonuç (koştu, önizledi, hata), çağrının geldiği kapı (uygulama içi, MCP, API anahtarı), kim istedi ve ne kadar sürdü. Argümanlar için satıra tıklayın.

Harici uç nokta#

İleri düzey: Ollama veya LM Studio gibi başka bir OpenAI-uyumlu sunucu kullanmak için maystroai.yaml içinde agent_llm_mode: external ve agent_llm_base_url (gerekirse agent_llm_api_key) ayarlayın. Maystro o zaman kendi sunucusunu başlatmaz ve üretimler için modeli duraklatmaz; üretim sırasında o sunucuyu GPU'dan uzak tutun.