會原 
SF作家がオフラインAI翻訳アプリを自作！
日本SF大賞受賞作「オービタル・クラウド」などで知られる藤井太洋氏が、Apple Intelligenceのオンデバイス基盤モデルにアクセスする「Foundation Modelsフレームワーク」を使った無料のMac向け翻訳アプリ「Pre-Babel Lens（プレバベルレンズ）」を公開しました。
Pre-Babel LensはDeepLに似た2ペイン構成で、左に原文を入力すると右に翻訳が出るシンプルな設計です。
大きな特徴は、通常利用では翻訳対象のテキストをアプリから外部サーバーへ送らず、通信環境がない場所でも動かせる点だといいます。ちなみに藤井太洋氏ご本人に伺ったところ、飛行機の中や新幹線の長いトンネルの中でも使えると具体的なシーンを挙げていました。
性能もなかなか実用的だそうです。藤井氏の説明によると、200 words程度のニュース記事なら1秒以内に翻訳が始まり、500 words近いオピニオン記事や小説の一節でも2秒を待たずに訳文が出てくるとのこと。Command+Cの2回押しで呼び出したり、URLスキームを通じたAutomator連携にも対応しているのだとか。
一方で制約もあります。対応言語はApple Intelligenceの対応言語に準拠し、トークン上限は4096。長い文章では翻訳結果がおかしくなることがあるそうです。また複数セッションの同時実行は深刻な速度低下やクラッシュを招く場合があるため、並列実行を避ける設計が前提になります。
動作にはApple Intelligenceを有効化したMacが必要で、藤井氏の開発環境はMacBook M2（16GB）。M1でも16GBモデルなら軽々動くだろうとのこと。
開発面では、v0.4.0から自然言語プロンプト主体の方式に代えて構造化出力を採用し、型レベルで翻訳先言語や文の種別を扱うようにしたことで、出力の安定性と反応速度を高めたそうです。藤井氏によると開発はCodexで進め、ほとんど全てのコードはテストも含めてCodexが実行したと明かしています。ライセンスはMITで、GitHubからソースコードを取得できます。
藤井太洋氏はSF小説家でありながら、元ソフトウェア開発者で、3Dソフト「Shade」の開発元イーフロンティアで開発本部長を務めたという、異色の経歴を持つ人物です。執筆にはVisual Studio Codeを用い、原稿をGitで管理する方法も自身の公式サイトで紹介しています。VS Code向け小説執筆拡張機能「novel-writer」も自作しており、テクノロジーと創作の境界を行き来してきた作家だといえそうです。
Apple Intelligence、なかなかパッとしない部分もありますけど、事実としてApple製品はAI実行ハードウェアとして優れています。だから「こういうアプリ、APIとその料金どうすんだ？」と考えずとも、ローカルハードウェアでオフラインで無料でAIを動かせる、そういうアプリを頒布や販売する例が増えてくると、面白くなるでしょうね。
ただしみなさん御存知の通り、雲の上の莫大な計算力を持つ大手のAIサービス、APIと比べてしまうと所詮はオンデバイスAI。大きく見劣りするので、使い方、見せ方は難しいところ。
実際、Apple Intelligence由来の制限として、言語数が15程度に制限。
さらに他にも、未成年に関するCSAMセーフガードや個人名と日時が入った文書をプライバシー行為であると判断し翻訳を止めるプライバシーガード、イスラエルが絡むと翻訳をしてくれないケースもある政治的セーフガードといった様々な制限を受けてしまうといいます。
とはいえ⌘＋C二回押しで翻訳できるのは手軽で、オフラインで使えてセキュリティが高いので、作ってよかったアプリであり、今後はiOS版を制作予定だと藤井氏は述べています。
