自治体と二人三脚。児童福祉の現場の判断をAIでサポート【CEOインタビューVol.3 #02】

「AiCANサービス」は、非常に難易度の高い児童虐待対応の判断をサポートするサービスです。単純に「サービスを導入する」だけにとどまらず、自治体ごとのカスタマイズや研修、伴走支援も行っています。なぜ研修や伴走が大事なのか。そして、具体的にどのようにサポートを行っているのか。CEO・髙岡に聞きました。

髙岡昂太／Kota Takaoka
教育学博士、臨床心理士、公認心理師、司法面接士。
児童相談所や医療機関、司法機関において、15年間、虐待や性暴力などに対する臨床に携わっている。
2011年千葉大学子どものこころの発達研究センター特任助教、学術振興会特別研究員PD、海外特別研究員（ブリティッシュコロンビア大学）を経て、2017年より産業技術総合研究所人工知能研究センター所属、主任研究員。2020年3月に株式会社AiCANを立ち上げ、2022年4月から同社CEOに就任。

対象者からの情報は正しいとは限らない

ーー改めて、児童虐待対応の領域における調査・評価（アセスメント）の難しさについて教えてください。

通常の自治体の窓口業務では、対象者から提供された内容は「正しいことが前提」で進めると思います。でも、児童虐待対応ではそうはいかないのが難しいところです。加害が疑われる保護者に対して「叩いたんですか？」とストレートに聞いたとして、「叩いてません。滑り台で転んだんです」といった回答が返ってきて、それが真実ではないこともよくあります。

ならば被害者側に話を聞こう…と思っても、それも難しいんです。深刻な虐待によって亡くなっている事例は、わかってる限りで8割程度が0歳〜4歳以下。まだお話ができないか、できたとしても言葉での表現が苦手な年齢です。学齢期に入るとお話できる子は増えますが、保護者から「本当のことを言ったら殺すぞ」などと脅されていて、やはりお話できないというケースが多くあります。

保護者や子どもからの情報は真実でないことがありますし、そもそも子どもは真実を話せないこともあるというのが、児童虐待対応の特殊さです。

年次に関わらず、先人の知見を活かして対応できる

ーーそうした難易度の高い領域の中で、AiCANサービスはどのようなサポートをしているのでしょうか。

データを利活用できる専用アプリで、現場の判断を助けるサービスの提供を行っています。

例えば、児童虐待対応を始めたばかりの方は、保護者が真実を言わないことや子どもが口を閉ざすことが多い状況の中で、どう調査・聴き取りしたらいいかわからず悩みがちです。また、当然ながらベテランの方が気づくちょっとした変化に気づけないことも多々あります。しかし、深刻な人手不足で、一人ひとりの教育に時間を割けない現状があるんです。

AiCANサービスにこれまでの事例や先輩たちの対応をデータとして取り込んでおけば、各項目の持つ意味や価値や調査方法を瞬時にアプリに表示することができ、組織中に知見が共有されます。

ベテランの方々が何をもとに危険性を判断しているか、どう調査すべきなのかがわかるのです。

また、データの収集方法や読み取り方に関する研修も行っています。

ーーアプリ上で端的に情報が表示されていますが、なぜ研修が必要になるのでしょうか。

アプリで提供している情報はあくまで「知識」であり、知識を提供するだけでは不十分だと考えているからです。

料理でも、ミシュラン 三ツ星のシェフのレシピ（知識）があったとして、その通りやれば同じものが作れるかと言ったら、やっぱり本物とは違ってきますよね。料理をするスキル（技術）のレベルによって、美味しさが変わってくるわけです。そういった技を磨くために、トレーニングや研修でロールプレイをしていく必要があります。

教科書通りにはいかない現場対応をサポート

ーーどういったケースのロールプレイをしているのか、事例を教えてください。

例えば、児童虐待対応を始めたばかりの方が面食らってしまいがちなのが、児童の保護者に怒鳴られるシーンですね。福祉の現場では「『受容』『共感』が大事」と習いますが、強いトーンで一方的に怒鳴られる中で、受容・共感するのは大変難しい。習ったことが実践できず、頭を抱えてしまうんです。こうしたシーンのロールプレイで、具体的な対応方法をお伝えしています。

まずは、怒鳴られたとしても「親御さんの気持ちは分かるが、お子さんに理由不明の傷があることは安全な状況ではない」という事実をきちんと伝えなければいけません。そして、「子どもの安全のために、親権を持つ保護者に子どもの安全が疑われる状況の再発防止策を考えていただく必要がある。それができない場合は一時的に行政も関わる」ということを伝えます。

「何を伝えるか」だけではなく、「どのように伝えるか」のノウハウもあります。保護者への切り返し方や「どのような状況になったら、支援方針を見直すか」といったラインもお伝えしています。

調査・聴き取りについても同様です。「子どもがしゃべらない」という状況でも、聞き方を変えると答えが変わってきます。例えば、虐待を受けた可能性のある子どもと以下のような会話をしたとします。

ここで、担当者が「そうなんだ」で終わらせてしまうと、これ以上情報を得ることができませんので、聞き方を変えていきます。

このやりとりで答えてくれるかどうかは、もちろん子どもによって異なります。でも、聞き方を変えていくことで、もう一歩深掘りしたり、情報を得られたりすることがあるんです。

研修でロールプレイをさせていただくことで、表情・声のトーンといった非言語的な部分も含めてお伝えすることができます。対応のポイントを理解し、「持ち技」が増えることで、受講者の方から「安心感を得られた」というコメントもいただきました。

こうした部分が、我々の経験や情報を活かしてお手伝いできる部分でもあると考えています。

根拠が多ければ子どもの安全を守れる可能性が上がる

ーー児童虐待対応の経験が豊富な方は、どのようにデータを利活用いただくのがいいでしょうか。

何よりの目的は「子どもの安全」なので、ベテランの方についても判断の精度が上がるための利活用をしていただきたいと思っています。児童福祉領域は医療と比べてデータの利活用について遅れをとってしまっていますが、医療業界においては評価のために客観的な検査をするのが当たり前になっています。検査の精度が100％ではなかったとしても、根拠が多いほど多面的で見過ごしの少ない判断につながります。

例えば、AIが出力する重篤度とご自身の感覚が一致していたら、判断が正しい可能性が高いという確認や後押しになります。一方、誰でも何らかの判断の偏りは生じるものなので、最終判断をする前に「一度立ち止まって考える」ためにデータを使用いただくとよいかと思います。

また、ノウハウが組織内に共有されることや、重篤なケースに早期介入して再発率減少に繋がることで、将来的に担当者の仕事量を減らすことも期待できます。

「マネジメント」部分は人が判断する

ーー前回の記事で、「あくまで判断は人間」というお話がありましたが、AIはどこまで情報を出してくれて、どこから人間が判断するイメージなのでしょうか。

AiCANサービスでは、自治体様の課題に合わせてAIが出力する情報を変えていますが、ユニバーサルに実装しているAIでは、網羅的に集めた情報をもとに客観的に評価した「重篤度合い」を出力します。その評価をもとに、人間がマネジメント（判断・対応）していくというイメージです。

医療の例で考えるとわかりやすいかもしれません。

このように、「評価」までは共通した結果になっていても、最後のマネジメントの部分では状況を見ながら現場が判断をしていきます。重篤度が高くも低くもなく50％前後だった場合は、特に現場や状況によって判断が変わるでしょう。

児童虐待領域で言えば、一時保護所で保護する可能性もありますし、保護所の空きがないため、あるいは重篤度が低いと判断したために在宅になる可能性もあります。また、近隣親族の方と良好な関係が築けており、何かあったら逃げ出して守ってもらえるという追加情報があれば、在宅にするといった判断もあるかもしれません。AIのインプットに含まれていない情報や使える資源を踏まえて、総合的に判断していきます。

PDCAサイクルをまわし、精度を高める

ーー自治体の課題に合わせた伴走支援も行っているということですが、こちらについても教えてください。

自治体様の中には様々な組織があり、虐待の再発防止を目標に掲げていることもありますし、他の施設や職種と連携するためのルールづくりに悩まれていることもあります。現状の分析・可視化や、根拠に基づいた政策決定・ルールづくりのためのご支援もしています。

自治体様ごとに内容をカスタマイズしつつ、PDCAサイクルをまわして精度を高めながら、支援・伴走することに軸を置いたサービス設計にしています。

ーーカスタマイズしていくと、自治体によってどのような違いが出てくるのでしょうか。

わかりやすくするために、かなり極端な例を挙げてご紹介します。

これらのケースを記録した場合、文書としては同じ内容になるかもしれませんが、地域によって項目の重み付けが変わってくる可能性があるのです。地域の特性・文化・リソース等も考慮してデータを検討していく必要があります。

また、同じ児童相談業務でも、「データをいつ取れるのか」というタイミングも重要です。例えば、緊急連絡が来て「出動しよう」という判断になったとします。

この2つの児童相談所では、チェックシートを記入するタイミングや情報量が異なりますので、入力されたデータを同等に扱うことはできないでしょう。データを取るポイントやその時点での情報量をきちんと反映しないと、納得感の得られる出力結果になりません。

こういった観点から、自治体様ごとに業務フローやデータの取得ポイントも考慮した上で、解決したい課題に合わせてAIをカスタマイズすることが重要だと考えています。

ーーありがとうございました。次回は、児童虐待対応の課題感や「すべての子どもたちが安全な世界に変える」という髙岡の想いや原体験をご紹介します。

※本記事は、2023年10月時点の取材をもとに制作しています。
（取材・執筆 藤澤佳子）

※本記事は、2023年12月23日掲載弊社サイトコラムからの転載です。

一緒に「子どもが安全な世界」をつくりませんか？

わたしたちは「すべての子どもたちが安全な世界へ変える」というビジョンを掲げ、子ども虐待の見過ごしをゼロにするべく、児童相談所のICT基盤を支えるプラットフォーム「AiCAN」を開発しています。AiCANは、自治体の虐待対応の現場でタブレット用Webアプリを活用していただき、業務を支援するサービスです。

▼AiCANについて、詳しくはこちら

現在すでに1自治体にサービス提供しており、今後さらに対象地域を広げていきます。
事業を拡大していくため、エンジニア、データサイエンティスト、営業職を募集しています！

「子どもが好き」「子どもが生まれてから、色々考えるようになった」「確かに、行政ってデジタル化進んでないかも」「なにか世のためになる仕事がしたい」そんな小さなきっかけでもかまいません！
興味を持ってくださったあなた。まずは代表の髙岡とざっくばらんにお話しませんか？

▼代表のプロフィールはこちら

応募条件やプロダクトの開発環境など、詳細は募集ページをご覧ください。自分らしく働ける職場で、仲間たちと一緒に社会課題解決に取り組んでみませんか？あなたの応募をお待ちしています！

▼詳細はこちら

Twitterやストーリーで情報発信しています！

AiCANでは、定期的にストーリーを更新しています。会社をフォローすると、新たにストーリーが投稿されり・新たに募集が開始されたとき、Wantedly内で通知を受け取ることができます♪
ページを下にスクロールすると出てくる「フォロー」を押して、更新をお待ちください。

Twitter（@AicanInc）でも情報発信しています。
▼こちらから、ぜひフォローよろしくお願いします！
https://twitter.com/AicanInc?s=20&t=dJdtE9HnKz68poTCE6BOhg

ページの下に出てくる「いいね♡」や「シェア」ボタンを押していただけると、執筆の励みになります。
引き続き応援よろしくお願いします！