エンジニアリング 2 分で読めます

小さなモデルはエッジに置く

著者は一つの言語で書き終える。モデルは公開時に走り、訳文は D1 に落ち、読む経路は待たない。

小さなモデルはエッジに置く

多くのチームは「知能」を往復の呼び出しだと考えます。リクエストが遠い大きなモデルへ飛び、戻ってくる。チャット窓なら待てます。ブログと公開ボタンは、そう待つべきではありません。

このサイトはモデルを書く側に残します。著者は一つの言語で書き終え、公開を押す。翻訳はその同じ操作の中で終わり、結果は D1 の一行になります。読者が後で開くのは、完成したページであり、まだ読み込み中のスクリプトではありません。

なぜ公開時に訳すのか

具体的な理由は三つです。

  1. 費用が見積もれる。 Workers AI の無料枠は日ごとに戻ります。翻訳は公開時に起き、読むたびに起きません。

  2. 訳文は直せる。 モデルが出すのは下書きです。題名、用語、X に共有する一文は編集でき、手を入れた言語はロックできます。

  3. クローラは完全なページを見る。 検索エンジンと回答エンジンが読むのは、要約と FAQ を含む意味のある HTML であり、空の容器ではありません。

エッジに向く仕事

向く 向かない
翻訳、要約、FAQ、分類 会話全体を無料枠に賭ける
公開時に一度だけ走らせる ページ要求のたびに大きなモデルを待つ
人が直せる下書き 追跡できないその場の生成

短いコード、リンク、埋め込み記号は翻訳に送りません。次の呼び出しはそのまま残します。

const translated = await env.AI.run("@cf/meta/m2m100-1.2b", {
  text: paragraph,
  source_lang: "zh",
  target_lang: "ar",
});

X との関係

技術的な議論は、記事の下のコメント欄では起きにくいものです。各記事は共有用の一文を持ち、本文に公開投稿を一つ埋め込めます。

埋め込みがなければ、ページは第三者のスクリプトを要求しません。

アラビア語は付け足しではない

右から左へ、は dir を付けて終わりではありません。ナビゲーション、リスト、引用線は行の方向に沿い、コードブロックは左から右のままです。hreflang は ar を使い、サイトマップと RSS にもアラビア語版があります。スペイン語も経路とサイトマップと言語切替に入ります。/es/ です。

持って帰る原則

  • 源言語は一つ、公開された訳文は複数。
  • モデル呼び出しは書く経路へ。読む経路はデータベースとオブジェクトストレージだけを読む。
  • 要約と FAQ は人にも、生成エンジンにも読ませる。

質問

源言語は中国語でなければなりませんか?

既定は簡体字中国語です。管理画面では五つの言語のどれでも源言語にでき、残りは公開時に生成されます。

無料枠を使い切るとどうなりますか?

原文は保存されます。自動翻訳は未処理として残り、後で再試行するか、自分で訳文を貼れます。

次の公開で訳文は上書きされますか?

ロックした言語は残ります。ロックされていない自動下書きだけが、再翻訳を頼んだときに更新されます。