Dosya bağlama

Bir File iki hamlede kullanışlı hâle gelir: typed bir yapıt olarak workspace'e yüklenir, ardından bir backend vertex üzerindeki bir yuvaya bağlanır. Yükleme yapıtı adreslenebilir kılar; bağlama onu çalışabilen bir graph'a kablolar. İkisi bilinçli olarak ayrıdır — aynı yüklenmiş File birçok backend'e bağlanabilir ve bir bağlamayı yeniden yönlendirmek, component'e dokunmadan bir yapıtı diğeriyle değiştirme yöntemidir.

Yükleme

Yükleme, yerel bir dosyayı veya dizini workspace dosya deposuna iter ve onu bir tür, bir görünen ad ve bir açıklama ile kaydeder:

ppl file upload <path> --type <file_type> --name "<display>" --readme @./README.mdppl file upload <path> --type <file_type> --name "<display>" --readme @./README.md --config ./file.config.yml

--type belirleyici flag'dir. Yüklemenin ne tür bir yapıt olduğunu ve hangi file_schema yuvalarının ortaya çıkan File'ı kabul edeceğini belirler. Buradaki yanlış bir tür daha sonra ortaya çıkar — ya bağlama onu reddeder ya da bağlanır ve çalışma zamanı uyumsuz bir yükleyiciye ulaşır. Platform geniş bir kelime dağarcığı sunar (model yapıtları, veri fixture'ları, config ve belge türleri); tam liste Dosya türleri içindedir.

Triton durumunu ayrıca belirtmek gerekir çünkü en sık görülen yükleme hatasıdır: --type triton_model, bir dizin yolu olarak geçirilen bir Triton model deposu dizini bekler, önceden tar'lanmış bir arşiv değil. Bir açıklama da zorunludur — satır içi --readme veya diskten --readme @<path> — çünkü bunu atlayan bir yükleme, bir agent akışının yanıtlayamadığı bir düzenleyici isteminde takılır.

Config'i dosyayla taşıma

Bir File bir --config belgesi taşıyabilir ve bu, kendi çalışma zamanı varsayılanlarını getirmesi gereken bir yapıt için olan kalıptır:

tags:  - detector  - warehouseconfig_schema:  confidence_threshold:    type: Double    default: 0.35  labels:    type: String    default: warehouse_labels

tags aranabilir workspace meta verisidir. config_schema varsayılanları ada göre eşleşir: adı tüketen vertex üzerindeki bir parametreyle eşleşen her giriş, bağlama zamanında o parametrenin değerini değiştirir. confidence=0.35 ile gelen bir detektör, ayrı bir parametre adımı olmadan backend'i 0.35'e getirir. Yan etki belirleyicidir — daha önce ppl backend change-parameter ile ayarlanan bir değer, dosyanın sahip olduğu parametreler için değiştirilir; böylece config_schema içindeki her şey dosyaya aittir ve geri kalan her şey graph denetiminde kalır.

Bir vertex'e bağlama

Bağlama, bir file_id değerini belirli bir vertex üzerindeki adlandırılmış bir yuvaya ekler:

ppl backend add-file <backend_id> --vertex <vertex_id> --key <file_schema_key> --file <file_id>

--key, tüketen component'in bildirdiği yuvadır (bkz. Dosya şeması). Platform, File'ın türünün yuvayı karşıladığını doğrular; böylece bir uyuşmazlık çalışma zamanında değil, bağlama zamanında reddedilir. Bağlama, olay kaynaklı backend günlüğündeki tek bir operation'dur — bağlamayı ekler, File'ın taşıdığı her config varsayılanını uygular ve backend'in yeniden üretilebilir geçmişinin bir parçası olur. Bir sonraki dağıtım onu devralır ve önceki bağlama geri alınabilirdir.

Bağlamayı kanıtlama

Bağlı bir File, platformun türünü yuva için kabul ettiği anlamına gelir. Yapıtın doğru çıktı ürettiği anlamına gelmez: bir detektör bağlanıp yanlış labels yükleyebilir, bir tokenizer bağlanıp model kelime dağarcığını tutturamayabilir, bir Triton deposu bağlanıp container'da bulunmayan bir backend'e başvurabilir. Bunların her biri yalnızca çalışma zamanı File'ı çalıştırdığında ortaya çıkar. Kanıt adımı, dağıtılmış backend üzerinden bir fixture çalıştırmasıdır — ucuz biçim bir canlı backend testidir, kapsamlı biçim ise Davranışı kanıtla içindeki sürüm karşılaştırma döngüsüdür.

İlgili

Bu sayfa yardımcı oldu mu?