【支援先紹介 vol.14】「信頼できる、説明可能なAI (XAI)」を実現。AIの社会実装に必須なシステム

2021年度の第4回 1stRound支援先の一つである株式会社Citadel AI。米国Google Brainの元AIインフラ構築責任者が開発をリードする圧倒的な技術力を保有。「24時間信頼できるAIをあなたに」をビジョンに、PoCから運用ステージに至るエンドツーエンドのAIの品質保守自動化ツールを提供している。2020年12月に会社設立、2021年9月にはシードラウンドの資金調達を行い事業を軌道に乗せている。その事業の特性や起業の経緯、今後の展開について、代表取締役社長の小林裕宜氏に聞いた。

AIの信頼性を担保し人間に分かる形で可視化する、異常検知サービスの需要は大きい

ーーまず、Citadel AIの事業について教えてください。

最近AIの信頼性に関する報道を耳にすることが多いのではないでしょうか？我々の事業は、そうしたAIならではの新たな課題を解決します。運用中のAIを常時モニタリングし、異常が発生したときに、自動でアラートを上げたり、ブロックしたり、AIの判断根拠を人間が分かる形で可視化する「Citadel Radar（シタデル･レーダー）」というシステムを提供しています。また、PoCを加速化するCitadel Lens（シタデル・レンズ）」というAIの自動耐性テストを行うシステムも開発しています。

従来のソフトウェアは、人間が考えてプログラミングしたロジックに基づいて動くのに対して、AIでは、トレーニングデータからAI自身がロジックを自動学習して膨大な数のパラメーターという形に落とし込まれます。このため出来上がったAIを見ても、フローチャートが書かれている訳ではなく、人間が理解することが難しいという「ブラックボックス問題」が生じます。全体の精度を見るだけでは不十分であり、さまざまな角度から個々のセグメントや特定のデータを深堀りして、バイアスや精度、アタックに対する耐性等を検証することが不可欠ですが、これを人間が完璧に行うのは非常に困難です。

さらに、AIの異常を引き起こすものとして、運用中のデータの問題があります。開発・導入段階ではメーカーが張り付いて、云わば無菌室的な環境で、きれいなトレーニングデータを用いて学習を行います。一方、導入後の運用段階は現場任せのケースが多く、かつ実社会では「AIが学習時に見たことが無い」さまざまな雑音が乗ったデータが飛んでくるため、AIの誤認識や誤学習が発生し精度が劣化します。

AIが適用される領域は、そもそも人間が見切れないような膨大なデータを扱うアプリケーションの為、そうした異常を人間がリアルタイムに見つけることは不可能です。大きなビジネスリスクやコンプライアンスリスクに繋がる前に、自動的にプロアクティブに異常を検知・ブロックして可視化するシステムが今後の事業経営上不可欠です。

ーーその分野に的を絞ったのは、なぜでしょうか。

日本のAIスタートアップの多くは、従来フローチャートをベースに人間がプログラミングしていた部分をAI化し、データを使ってアプリケーション開発するという事業が主力だと思います。その分野はレッドオーシャン化しつつあり、また個別開発要素が多いため、ビジネスを広げるにはエンジニアを増やす必要があります。さらにノーコード/ローコードのAI開発ツールも作られつつあり、アプリケーション開発市場は早晩、価格競争となるでしょう。そこに後から参入しても面白みはありません。

共同創業者のケニーは、米国GoogleにおけるAIの中枢研究開発機関であるGoogle Brainにおいて、TensorFlowという機械学習パイプラインシステムの開発チームのプロダクトマネージャーを務めていました。我々が提供しているシステムには、AIの理論やプログラミングスキルに加え、数学や統計分野の知識、さらに大規模なシステムの運用経験が不可欠です。

ケニーは技術的な知識は勿論のこと、AI開発の正に世界のど真ん中で、さまざまな課題と闘って来た非常に稀有な経験と能力を保有しています。そうした経験や知見を最大限活かすことができ、かつ世界のさまざまな分野やアプリケーションに対して、汎用的にスケーラブルに適用できるシステムという観点から、この分野に的を絞り起業を決めました。

ーー競合する製品やサービスはまだないのでしょうか。

MLOpsというAIのモデル開発を支援するローコードツールを提供するメーカーは複数いるものの、我々のようなAIの入出力異常を、しかも運用時も含めてリアルタイムで自動検知しブロックできるシステムを提供する企業は、日本では未だ無いと認識しています。

一方で米国のGAFAのように、最新技術を知るエキスパートが潤沢なところでは、人手をかけ、オープンソースを含めたさまざまなツールを駆使することで対応しています。しかしこうしたツールを使いこなすこと自体容易ではなく時間もかかり、さらに常にツール自体のアップデートが必要な為、通常の企業が同様の対応を行うことは現実的ではありません。

当社が目指すのは、一般企業向けにAIの品質管理が容易にできる、高品質で便利なツールを提供することです。異常検知のプロセスを極力自動化することで、AIエンジニアには異常発見後の改善に専念してもらうことが可能です。実際にどう改善すべきかは、ユーザー企業のポリシーや事業内容を考慮する必要があるので、そこは人間が個別対応する方が適しています。

世界のトレンドとしても、EUでは2021年4月にAIの利用に関する規制案が発表されました。また、ニューヨーク市議会では同年11月に、雇用主が求職者に関してAI自動採用ツールを使用する場合、人種や性別による偏った判定が出ないよう、年1回のバイアス監査を義務づける法案が可決されています。

こうした考え方が日本を含めた世界に早晩波及するのは間違いなく、日本でAI導入に積極的なグローバルな先進企業とともに検証を進めています。また我々のチーム自体がグローバルなチームであることから、世界市場も見据えています。今後さらにAIの普及が進めば進むほど、我々のようなAIの異常自動検知システムは無くてはならないものとなり、その市場が広がることでしょう。

総合商社での事業経営経験者と、グローバルのトップエンジニアが共同創業

ーー会社設立は2020年12月とのことですが、起業に至った背景を教えてください。

私は三菱商事出身で、かつて情報産業グループに所属して、新電電の立ち上げなどに従事していました。今では当たり前になっていますが、当時の郵政省を説得し、日本初の通信の大口割引サービス導入も実現しました。その後、米国駐在となり、11年の駐在期間のうち約5年はベンチャー投資を担当。主に通信分野で、ボストンやワシントン、ダラス、シリコンバレー等のベンチャー企業を見つけて投資し、日本に紹介するようなことを行っていました。また、共通ポイントのポンタやその他国内外の複数の事業経営にも携わり、そうした中で、いつか自分でも起業したいという思いが募りました。

特にこの5年ほど、まだまだ未開拓の技術分野であるAIに興味を持ち、意識して学ぶようにしていたところ、共通の知人から、後に共同創業することとなるケニーを紹介されました。とはいえ当初は、彼はシリコンバレー、私はインディアナ州にいたので、コミュニケーションはもっぱらオンラインでした。それが正に偶々ですが、2020年にケニーも私も日本に戻ることになり、初めてリアルで対面。互いに認め合い、共同創業を決断するに至りました。

ーーそうして、第4回1stRoundに採択されたわけですね。

実はその前の2020年10月より、東大FoundXのPre-Founders Programに入り、その後Founders Programに移って、2021年10月に卒業しています。そもそもFoundXには知人から聞いて応募したのですが、その流れで1stRoundの募集が始まったので、当初はFoundXと1stRoundの違いもよく分からず応募しました。

ーーそれらは、どのように役立ちましたか？

事業を前に進めるうえでのタイムキーパー、良い意味でのプレッシャーとして、活用させていただきましたね。FoundXでは参加チームが週2回オンラインで進捗を報告しあうので、刺激になりました。一方、1stRoundでは6ヶ月間みっちりとハンズオンで支援いただき、VCとの接し方や企業価値向上のアドバイスをいただけました。当社の場合は結果として後の2021年9月に出資もいただいたのですが、1stRound期間中はニュートラルに、同じ船に乗って当社の価値を上げ、育ててくれることに注力してもらえたことに大変感謝しています。

また、事業化にあたり、出資や商談に向けても「東大」としてのブランディングができるのは、大きなメリットでした。プレスリリースも、独自のネットワークで広めてもらえます。こうしたPRの支援は、スタートアップにはこの上ないメリットです。ものづくりやセールスはもちろん大事ですが、スタートアップは「世の中にまだないもの」に取り組むので、世の中に認知してもらうことがとても重要なのです。そのためのPR活動は自分たちだけでは難しく、東大というブランドの元で発信できるのは他には無いメリットであり、大変有難いです。

また、大手企業や他の投資先スタートアップを紹介していただけるので、私やケニーのネットワークにプラスして商談を進めることができました。その甲斐あって、現在約10社が「Citadel Radar」を試験利用中で、商用利用に入ったケースも出ています。

PoC段階のAIを人間ドック的にチェックするシステムも開発中

ーー今後の事業展開はどのように考えていますか。

「Citadel Radar」は、今はエクセルのような表形式データに基づくAIを対象としていますので、モニタリング先のAIの用途は、需給予測や与信審査、不正検知、採用審査、マーケティング活用などを想定しています。さらに現在、たとえば工場の不良品検査など、画像データに基づくAIへの対象領域の拡張を進めているところです。

またそれとは別に「Citadel Lens（シタデル･レンズ）」という、PoC段階での自動耐性テストを行う製品を開発中です。こちらはすでにアルファ版ができています。日本では現在PoC段階のAIが多いので、それを人間ドックのように複数項目で瞬時にテストして、弱みがないかを自動的に検出するシステムです。このテストを実施することでPoCを加速化し、自信を持って運用に移行することが可能です。この2軸で開発・事業化を進めていきます。

また、2021年9月にシードラウンドの資金調達ができたので、エンジニアの採用も強化していきます。

ーー最後に、起業を考える方へのアドバイスをお願いします。

今後ますます世の中が不確実性を増すなかで、会社の終身雇用制度に頼るような生き方は難しくなるでしょう。また、グローバル化により、経済的な国境がなくなっていく流れもあり、個人として自立していける人材となることが求められます。リスクを避けることの方が、寧ろ長期的なリスクに繋がると考えるべきです。早いうちに自分でチャレンジし、経験を積むことを考えてみるのがよいのではないでしょうか。

その際には、1stRoundのようにニュートラルでブランドもある支援を受けることを、ぜひお勧めしたいですね。私自身は失敗も含めていろいろな事業経験をしてきましたので、経営上「そちらに行くとまずい」というのも判断できますが、やはり特に事業経営や資金調達といった中々経験上短期的には身につけにくい分野で、客観的にアドバイスを受け、ハンズオンで支援される機会というのは、この上なく貴重だと思います。