【CAIOインタビュー】最新AI技術の応用で、プロダクトをさらに進化させる！

こんにちは。エンジニア採用担当の松本です。

LegalOn Technologiesには、自然言語処理（NLP）や機械学習（ML）、大規模言語モデル（LLM）などAI技術を駆使したプロダクト開発を推進する専門部隊「AIセクション」があります。
AI技術に関する専門性、知見を持ったエンジニアが集うこのチームを牽引し、4月1日よりCAIOに就任したJoeにインタビュー。
LegalOn参画のきっかけや、最新技術を活用した取り組み、法律分野における生成AI（GenAI）の可能性や、これからの展望などについて聞きました。

Yiqing Zhu (Joe)　CAIO
中国の浙江大学でBS（Software Engineering）、筑波大学にてMS（Computer Science）を修了後、楽天のSearch Groupにソフトウェアエンジニアとして入社。Indeedにフルスタックエンジニアとして転職した後は、約７年にわたりテックリードやエンジニアリングマネージャーに従事。NLP、ML分野における開発経験を経て、2023年9月にLegalOn Technologiesに参画し、2024年4月からCAIOに就任。

「法律×生成AI」の可能性と、技術力の高さが入社の決め手に

―　Joeさんの前職までのキャリアについて教えてください。

大学院でコンピュータサイエンスを研究し、そのまま日本に残ってエンジニアとしてのキャリアをスタートしました。
1社目の楽天では、検索エンジンのチームでインフラを含む開発を経験し、2016年にIndeedへ。
ソフトウェアエンジニアとして、A/Bテストのフレームワークなど検索エンジン回りの開発や、大規模なリアーキテクトプロジェクトのテックリードと、AIに限らずさまざまなプロジェクトに携わりました。
最終的には、ナレッジグラフを構築するチームのエンジニアリングマネージャーとして、NLPやMLなど、AI技術を用いたプロダクト開発を担当しました。

―　7年働いた会社から転職しようと思ったきっかけは、何だったんですか？

エンジニアとしてもっと大きなインパクトを出したいと思ったのがきっかけですね。
前職までの経験を生かしてまた少し違ったフィールドで、多くのエンジニアとより大きなアウトプットを出したいという思いがありました。

―　LegalOnとの出会いについて教えてください。

2022年にSNSを通してLegalOnのエンジニアと知り合い、興味をもちました。
もともとスタートアップ企業で働きたいと思っていましたし、LegalOnには業界内でも優秀なエンジニアが揃っていて技術力が高い。

また、法律の分野と大規模言語モデル（LLM）を活用した生成AI（GenAI）との親和性は高く、「この分野でならNLPのさまざまな課題を解決していくこともできる」と思いました。

面談を通して、外資系出身の私にとって働きやすい企業文化も感じました。
みなさんフランクで話しやすかったですし、意思決定の速さにも魅力を感じて、入社を決意しました。

チームの組織改革や、LLMプラットフォームの整備を推進

―　2023年秋にLegalOnに参画して、まずはどんなことに着手されましたか？

入社後はまずはじめに、採用プロセスの改善から始めました。
スキルをより適切に見極め、優秀なエンジニアを採用していくために、AI知識をはかる面接を増やすなど、選考プロセスを見直しました。

それから、組織体制の最適化にも継続的に取り組んでいます。
私は、さまざまなAI技術をプロダクトに応用するための研究開発を行う専門部隊「AIセクション」をマネージしています。
全体的にプロダクト志向が強いエンジニアが多いですが、研究を続けたいメンバーもいれば、開発に注力したいメンバーもいます。
それぞれの志向性や専門性を尊重しつつ、社内の他開発チームとより連携が取り易くなるように、プロジェクトのアサインやスコープを調整しています。

また、コミュニケーションをより円滑にするために、チームビルディングにも着手。
メンバーが互いの業務をよく理解し、意見交換を行える環境を整えることで、チーム全体の技術的な意思決定のクオリティを高めていきたいと考えています。

― グローバルプロダクトの改善にも取り組んでいるんですよね。

そうですね。
米国子会社のビジネスチームとも連携しながら、AIを活用した機能改善に取り組んでいます。
詳細の技術については公表できない部分が多いのですが、たとえば、メイン機能である契約書レビューの仕組み自体をMLで改良して時間効率を高めたり、レビュー結果の精度をより良くしたり。
国内外のメンバーと議論しながら日々改善を進めています。

― LLMプラットフォームの構築も進めているのだとか。

社内でLLMを正しく効率よく使うためは、共通のプラットフォームが必要です。
他の開発チームもLLMを簡単に利用できる環境をつくるべく、LLMOpsのプラットフォームプロジェクトを始動して、LLMの運用に必要なベストプラクティスを集約し、全社的に推進しています。

一例を挙げると、オフラインでプロンプトのチューニングや保存をする仕組みや、オンラインでLLMが動くときのレスポンスや単語数（トークン）をモニタリングする仕組みなどをつくっています。

最新のテクノロジーをより身近に！競争力を生む技術投資がカギに

―　いま課題に感じていることはありますか？

生成AIのテクノロジーを、LegalOnの中でもっともっと積極的に使っていけるように基盤を整え、マインドセットを変えていく必要があると思っています。

まずできるのは、先述のLLMOpsなど、LLMの利用環境を整備しナレッジを普及すること。
ひとつの機能開発にかかる時間を短縮できれば、もっと手軽に生成AIに手を伸ばせるようになるはずです。

加えて、一番重要なのは会社全体のマインドセットを変えていくこと。
いまや、これまで解決が難しかった技術的な課題も、LLMなど最新のテクノロジーを用いて簡単に解決できる時代。
より価値のあるプロダクトをつくるために、優先的に最新技術を活用していこうというマインドセットを普及していくことで、開発に関わる現場のPdMやエンジニアもより積極的にアイデアを出せるようになるはずです。

社内発信など続けながら、より良い環境をつくっていきたいと考えています。

―　AIが専門外の社員にとっては、とても心強いですね！
プラットフォームの整備に加えて、今後やっていきたいことはありますか？

大きく2つあります。

ひとつは、技術的な方向性として、もっと法律の文章を深く理解できるようにしていくことです。
法律に関わる文章は、言葉遣いが少し変わるだけで、意味が大きく変わってしまうことがあります。
そのニュアンスの違いをどう理解させるかが、一般的な自然言語処理と比較して最も難しい部分。
LLMなどの技術を活用することで、そこを解決していければ、これまでにない新しいサービスや、他社にはないサービスをつくれるはずです。

もうひとつは、技術に投資するように、データにもさらに投資していくこと。
データは大企業でも簡単にはつくれませんし、LegalOnの競争力の源泉でもあります。
どんな機能を提供するのかを考えるためにも、データは大切。
社外からデータを集めるのもそうですが、社内でデータを生成する方法もあるでしょうし、事業に貢献しながらデータをつくっていければと思います。

そして、LLMは日々進化しています。
現状、LegalOnは日本と米国でビジネス展開をしていますが、英語のLLMと比較して、日本語のLLMはまだまだ改善の余地があります。
2025年には、日本語のLLMが現在の英語のLLMと同じレベルに達すると私は予想していますが、そのころには英語のLLMも更に進化し、海外の技術力の高い企業が多く台頭してくると思います。
会社として常に技術をアップデートしながら、競争力を高め続けていく必要があると、その点は危機感を持っています。

―　最後に、候補者へのメッセージをおねがいします！

LegalOnのAIセクションは、NLPやML、LLMを用いてがっつり開発できるのが大きな魅力。
専門性の高いメンバーが揃っていて、エンジニアそれぞれの意見を大事にする文化もあります。
AIや最新技術を用いたプロダクト開発に興味があるエンジニアの方々のチャレンジをお待ちしています！

We're Hiring!

LegalOn Technologies のAIセクションでは、エンジニアを積極採用中です！

少しでも興味をもっていただけましたら、ぜひお気軽に採用チーム（recruiting@legalontech.jp）までご連絡ください！

最後まで読んで頂きありがとうございました！