Emballer

Empaquetage du plugiciel

Lorsque vous compilez avec Unreal Engine, les fichiers de bibliothèque dynamique nécessaires aux plug-ins sont automatiquement inclus dans le package, il vous suffit simplement d'activer le plug-in.

Pour Windows, le processus de packaging placera automatiquement les fichiers llama.cpp et les DLL liés à CUDA dans le répertoire de destination. Il en va de même pour les autres plates-formes telles qu'Android, Mac et iOS.

Vous pouvez exécuter la commande "AIChatPlus.PrintCllamaInfo" dans le jeu en version Development après l'avoir packagé pour vérifier l'état actuel de l'environnement Cllama, confirmer si l'état est normal et s'il prend en charge le backend GPU.

Emballage du modèle.

Supposons que les fichiers du modèle ajoutés au projet soient situés dans le dossier Content/LLAMA, alors vous pouvez inclure ce répertoire lors de l'emballage :

Ouvrez les "Paramètres du projet", sélectionnez l'onglet Packaging, ou recherchez directement "paquet d'actifs", repérez le paramètre "Répertoires supplémentaires à inclure dans le paquet" et ajoutez le dossier Content/LLAMA.

Une fois que le répertoire est ajouté, Unreal packagera automatiquement tous les fichiers du répertoire lors de la construction.

Lire le fichier du modèle hors ligne après emballé.

Généralement, Uneal va regrouper tous les fichiers de projet dans un fichier .Pak. Si vous transmettez le chemin du fichier dans le .Pak au modèle hors ligne Cllam, cela échouera car llama.cpp ne peut pas lire directement le fichier de modèle regroupé dans le .Pak.

Il est donc nécessaire de copier les fichiers de modèle du fichier .Pak dans le système de fichiers, le plugin propose une fonction pratique pour copier directement les fichiers de modèle du fichier .Pak, et renvoie le chemin du fichier copié, ce qui permet à Cllama de les lire facilement.

Les nœuds de la feuille de route sont "Cllama Prepare ModelFile In Pak": ils copient automatiquement les fichiers de modèles du Pak dans le système de fichiers.

Le code de la fonction en C++ est :

#include <Cllama/AIChatPlusCllama_Util.h>

auto ModelPath = FAIChatPlusCllama_Util::PrepareModelFileInPak(InContentPath);

Original: https://wiki.disenone.site/fr

This post is protected by CC BY-NC-SA 4.0 agreement, should be reproduced with attribution.

Visitors. Total Visits. Page Visits.

Ce message a été traduit en utilisant ChatGPT, veuillez laisser vos commentairesFaites remarquer tout oubli.