Terjemahan LLM Self-Hosted

Suntikkan LLM self-hosted (misalnya: melalui Ollama) sebagai penyedia terjemahan ke dalam direktif @strTranslate, untuk menerjemahkan nilai field ke bahasa yang diinginkan.

Deskripsi

Jadikan LLM self-hosted tersedia sebagai penyedia terjemahan dalam direktif @strTranslate.

Tambahkan direktif @strTranslate ke field apa pun bertipe String, untuk menerjemahkannya ke bahasa yang diinginkan.

Misalnya, query ini menerjemahkan field title dan content dari postingan dari bahasa Inggris ke bahasa Prancis menggunakan LLM self-hosted Anda:

{
  posts {
    title @strTranslate(
      from: "en",
      to: "fr",
      provider: self_hosted_llm
    )
    
    content @strTranslate(
      from: "en",
      to: "fr",
      provider: self_hosted_llm
    )
  }
}

Otorisasi

Jika Anda menghosting LLM di server Anda sendiri, Anda tidak memerlukan API key.

Jika Anda menggunakan LLM self-hosted di cloud (misalnya: saat menggunakan Ollama Cloud), Anda mungkin perlu memberikan API key, melalui tab Plugin Management > Self-Hosted LLM Translation di halaman Pengaturan.

Kemudian ikuti salah satu metode di bawah ini untuk memasukkan nilainya.

Melalui Pengaturan

Masukkan API key di input yang sesuai di halaman Pengaturan, lalu klik "Save Changes (All)":

Di `wp-config.php`

Tambahkan konstanta GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_API_KEY di wp-config.php:

define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_API_KEY', '{your API key}' );

Melalui variabel lingkungan

Tentukan variabel lingkungan SELF_HOSTED_LLM_TRANSLATION_SERVICES_API_KEY.

Konfigurasi LLM

Anda harus mengonfigurasi nilai-nilai berikut:

Endpoint URL: URL endpoint HTTP untuk model LLM self-hosted Anda. Misalnya:
- http://localhost:11434/v1/chat/completions saat menggunakan format ChatGPT dan menghosting model LLM di server Anda menggunakan Ollama
- http://localhost:11434/v1/messages saat menggunakan format Claude dan menghosting model LLM di server Anda menggunakan Ollama
- https://ollama.com/v1/chat/completions saat menggunakan format ChatGPT dan Ollama Cloud
- https://ollama.com/v1/messages saat menggunakan format Claude dan Ollama Cloud
Compatible with API endpoint from: Penyedia layanan AI mana yang kompatibel dengan endpoint kustom Anda, dengan pilihan ChatGPT dan Claude
Model: Nama model LLM self-hosted yang akan digunakan saat menerjemahkan konten.
Max tokens: Jumlah maksimum token yang dapat dihasilkan model dalam respons. Biarkan kosong untuk tidak menetapkan batas untuk ChatGPT, atau gunakan nilai default untuk Claude.

Ikuti salah satu metode di bawah ini untuk memasukkan nilainya.

Melalui Pengaturan

Masukkan model di input yang sesuai di halaman Pengaturan, lalu klik "Save Changes (All)":

Di `wp-config.php`

Tambahkan konstanta di wp-config.php:

GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_URL
GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_FORMAT_PROVIDER
GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_MODEL
GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_MAX_TOKENS

define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_URL', 'http://localhost:11434/v1/chat/completions' );
define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_FORMAT_PROVIDER', 'chatgpt' );
define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_MODEL', 'translategemma' );
define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_MAX_TOKENS', '128000' );

Melalui variabel lingkungan

Tentukan variabel lingkungan:

SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_URL
SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_FORMAT_PROVIDER
SELF_HOSTED_LLM_TRANSLATION_SERVICES_MODEL
SELF_HOSTED_LLM_TRANSLATION_SERVICES_MAX_TOKENS

define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_PROMPT_TEMPLATE', 'Please translate strings from {$sourceLang} to {$targetLang}' );

Melalui variabel lingkungan

Tentukan variabel lingkungan SELF_HOSTED_LLM_TRANSLATION_SERVICES_PROMPT_TEMPLATE.