「AIは魔法の杖ではない」AIスタートアップの代表が語った、その理由とは【イベントレポ】

8月28日に、東京大学バリアフリー教育開発研究センターが主催したシンポジウム『虐待と向き合う児童相談所の新たな役割と可能性』に弊社代表・髙岡が登壇しました。

本シンポジウムは、日曜日の朝9:00スタート・3時間という長丁場にもかかわらず、なんと1000人超の参加申込をいただき、非常に大盛況のオンラインイベントとなりました！児童相談所をはじめとした、子どもや福祉に関わるお仕事をしている方はもちろん、東京大学主催ということもあり、学生の方にも多くご参加いただいたようです。本日は、広報担当・松村がその模様をレポートいたします！

子どもが輝く未来のために、奮闘する人たち

今、児童相談所が危機的な状況に陥っています。先日公開したストーリー「児童相談所のこと、知ってる？」（記事はこちら）でも触れたように、増え続ける虐待件数にマンパワーが追いついていません。単純な件数の増加だけでなく、DVなど様々な要因により対応が複雑化している上、発達支援など子育て相談ニーズも増大・多様化しています。現場の業務負担は深刻化しており、需要が高まる一方で、離職者が後を絶ちません。

そんな児童相談所を応援する企画として立ち上げられたのが、今回のシンポジウムです。本企画の火付け役となった、東京大学産学協創フォーラム「臨床心理iNEXT」は、「行政の限界を超えて、新たな児童相談サービスの展開を議論する」と宣言しています。

シンポジウムの登壇者は、児童相談所や児童心理治療施設といった子どもたちと向き合う現場の人たちから、臨床心理・子ども虐待・データによる政策評価などを専門とする研究者たちまで、多彩な顔ぶれです。「地域において子どもの安全を守り、子育て支援の環境を整備する」をテーマに、さまざまな視点から「子どもたちの輝く未来のために」奮闘する人たちが集結しました！

子ども虐待とデータサイエンス

児童相談所が直面する課題や今後の展望について、最新の動向やデータを紹介しながら、登壇者たちが議論を交わしました。2022年6月に成立したばかりの改正児童福祉法では、裁判官が一時保護の必要性を判断する“司法審査”が導入され、附帯決議では、支援事業等の取り組みについて科学的な効果検証について言及されるなど、児童福祉における「データサイエンス」の需要が高まっています。

さまざまな分野の登壇者から、「基礎自治体が持つ膨大なデータを、ケースワークや子育て支援にどう活かしていくのかが、今後の課題」「通告初期の調査項目が統一されていない現状では、客観的かつ妥当性の高いデータ検証ができない」といった指摘がなされたり、「市の子育て支援課と関係機関が情報共有できるシステムの導入事例がある」など、先進的な取り組みが紹介されました。

弊社代表の髙岡からも「児童虐待対応におけるDXとデータ利活⽤」をテーマにお話いたしました。高岡は、臨床心理士として、児童相談所や医療機関・司法機関などの現場で、15年以上、虐待や性暴力に対する臨床に携わってきました。また、産総研 人工知能研究センターで、子ども虐待や発達障害、社会的孤立などの社会課題に取り組んできた研究者でもあります。現場の経験知や専門性と、データやテクノロジーの力を合わせることで、課題解決を目指してきた立場から提案する「児童福祉×データサイエンスの可能性」。スライド全33ページのうち、一部内容をピックアップしてお届けします！

▼代表のプロフィールはこちら▼

DX＝ICT化ではない

昨今、コロナ禍におけるリモートワーク需要の高まりもあり「デジタル化・DX推進」というフレーズをよく耳にしますが、ICTツールを導入することがDXであるかのように語られがちです。しかし、ICT化はDXの手段であって、目指す姿そのものではありません。「既存のフローや業務のあり方を変化させ、新しい価値をつくる」ことがDX＝デジタルトランスフォーメーションなのです。

DXには3段階あるとされています。第1段階はデジタイゼーション、アナログで管理されていたデータを、デジタル化すること。これまで紙へ記入していた調査記録を、Excelやアプリにするといった例が考えられます。第2段階・デジタライゼーションは、業務“プロセス”のデジタル化。児童相談所なら、通告を受けてから終結するまでの全てをデジタルデータとして蓄積していきます。そして第3段階・デジタルトランスフォーメーションでは、データを解析・利活用し、本来あるべき業務のあり方へ変革させていく。

DXを推進するには、解決したい課題の確認からはじまり、目指すべき理想の業務のあり方を詳細に整理し、数年単位での効果指標の設定など、入念な準備・計画が重要です。実際のツール導入にあたっては、現場への丁寧な説明と動機づけも欠かせません。運用していく中で、再度課題を洗い出し、「あるべき業務の形」を目指して、仮説検証を重ねていきます。あらかじめ完成形を描いて開始することは難しく、成功例だけでなく失敗例からも学びながら、改善のサイクルを回していくことが大切です。

AIは“魔法の杖”ではない

データ解析とは、数字やテキストの羅列といった「データ」という素材から、「意味」を取り出すことです。例えば子ども虐待のデータであれば、「通告件数は2年後に8000件になるだろう」「子どもの年齢が高いほど、助けを求められる傾向にある」といった「意味」を得ることができます。
ただし、よいデータがないと、よい解析結果は得られません。料理と同じく素材が命で、データが不十分だと、解析しても知りたいことがわからない場合もあります。データを業務に活用するためには、データを集める段階、つまりどのように専門的かつ体系的な調査を行うかが重要となります。

また、データ利活用には、得意なこと・苦手なことがあります。予測・判定・識別など、いわゆるビッグデータ・大量のデータから複雑なパターンを見出すことは得意ですが、発生頻度が非常に低い事象について高い精度で予測・判定をすることは苦手です。データは診断や判断などの「結論」にはなりません。あくまで参照するものであり、特に子ども虐待対応のような対人援助の領域では、最終的な判断決定は、常に人が行います。

これまで発生したことのない事象や、データを持っていない事象（そもそも調査していない項目など）については、予測や判定をすることはできません。「テキストデータがたくさん溜まってるから、AIに使えるよね？」と言われることがありますが、データがあるからといって、必ずしも「意味」を取り出すことができるとは限りません。AIを含むデータ利活用は「魔法の杖」ではないのです。

データはバイアスを調整するバランサー

児童福祉領域だからこそデータが役立つのには、その業務の特性に理由があります。例えば「お客様が記入した申請書にもとづいて手続きする」など、一般的な仕事では、基本的に「顧客が正しい情報を提示した前提」で対応します。一方、児童相談所の場合、「本当は叩いたときの傷なのに、親が『滑り台で転んだ』と話した」場合、親の言葉を信じると、取り返しのつかない事態になることもあります。得られる情報が正しいとは限らず、「あいまいな情報を職員が判断」しないといけません。

このような状況では、バイアスがかかりやすくなっています。バイアスとは、「このケースならたぶん大丈夫だろう」「経験上、こっちよりあっちのケースのほうが危ないだろう」といった、偏った考え方になること。虐待死亡事例は、バイアスが原因となっているケースが多いと言われています。感情、経験、強いストレス環境や業務環境によってバイアスが働くほか、そもそも人間は、判断に迷うと「大丈夫だろう」という正常性バイアスが働く性質を持っています。

そんなとき、冷静にバイアスを調整するバランサーとして、データを参照してもらいたいのです。「自分はこう考えたけど…過去のデータを見ても同じだ！」とわかれば、背中を押してもらえる。「あれ、こうだと思っていたけど、データを見ると違うかも？」となれば、少し立ち止まって、見落としがないか振り返ることができる。意思決定を行うのは人間ですが、データは、現場で働くみなさんの経験や感覚を裏付け、専門性を底上げしてくれる武器になると考えています。

ウェルビーイングの土台は「健康・安全」

昨今、ファッション誌などでも取り上げられるほど、耳にすることの多い「ウェルビーイング（Well-being）」。個人の権利や自己実現が保障され、身体的、精神的、社会的に良好な状態にあることを意味する概念です。感情的・瞬間的な「Happiness」ではなく「持続する幸せ」として、SDGs（持続可能な開発目標）と共に語られることも多い言葉です。

「幸福」「ウェルビーイング」について考える上で、マズローの欲求階層説を取り上げさせてください。人間は、まず、生きていくために必要不可欠な食事や睡眠を求める「生理的欲求」を満たそうとし、それが満たされたら「安全欲求」「社会的欲求」…と段階的に次の欲求を求めようとする、という考え方です。

「ウェルビーイング」という言葉が使われるとき、社会的欲求や自己実現欲求といった、この階層の上の部分ばかり語られがちではないでしょうか。まず、土台の「健康・安全」を堅固なものにしなければ、上へ伸ばしていくことはできません。
弊社は、子ども虐待対応を支援するAI搭載アプリ「AiCAN」を開発・提供しており（詳しくはこちら）、まさに「子どもの安全を守る」お手伝いをしています。子どもたちが健康かつ、安全・安心に生活でき、暴力・体罰を振るわれない土台をつくることで、未来を担う子どもたちの幸せへつなげていきたいと思っています。

いかがでしたか？盛りだくさんの内容から厳選して、ごくごく一部をご紹介しました！今回は弊社代表の発表を取り上げましたが、児童相談所の現役職員、子ども虐待やデータサイエンスの研究者、心理職志望の学生を教える大学教授など、登壇者は各分野の専門家が総勢8名。自宅にいながら、とても濃密な3時間を過ごすことができました。

この記事を読んで、データサイエンスに興味が湧いた方、児童相談所についてもっと知りたくなった方！シンポジウムのアーカイブ動画が一般公開される予定です。公開され次第、Wantedlyや弊社公式Twitterでお知らせいたします。ぜひ弊社アカウントをフォローして、公開情報をお待ちください！

2022/10/21追記：アーカイブ動画が、主催・東京大学バリアフリー教育開発研究センターのWebサイトで公開されました！
▼動画はこちらからご覧いただけます。

▼Twitterアカウント（@AicanInc）のフォローはこちらから▼
https://twitter.com/AicanInc?s=20&t=dJdtE9HnKz68poTCE6BOhg

記事を読んでAiCANが気になったあなた！ぜひ一緒に働きませんか？
▼ただいま営業チーム採用強化中！新たにセールス職の募集を開始しました▼

（文／Akane Matsumura）