AiCANの「Ai」は人工知能のAIじゃないって知ってた!?【CEOインタビューVol.1:前編】 | 株式会社AiCAN
記念すべきストーリー初投稿は、CEOインタビュー!まずは、当社の主要事業であるAiCANサービスについて知っていただきたく、CEO・髙岡自ら、たっぷり語ってもらいました。サービス名称の由来やデー...
https://www.wantedly.com/companies/company_4137770/post_articles/412544
「逼迫する児童虐待対応の現場に改革を。児童相談所の苦悩とAiCAN創業への思い」では、代表髙岡の学生時代・児童相談所の非常勤時代の想いや、児童相談所が抱える悩みなどをご紹介しました。現場の想いに寄り添うために開発したAiCANサービスですが、実際に導入することでどのような変化があるのでしょうか。導入いただいた方々から声と、よく耳にする疑問点にもお答えします。
なお、AiCANサービスの特徴については、「自治体と二人三脚。児童福祉の現場の判断をAIでサポート」もご覧ください。
髙岡昂太/Kota Takaoka
教育学博士、臨床心理士、公認心理師、司法面接士。
児童相談所や医療機関、司法機関において、15年間、虐待や性暴力などに対する臨床に携わっている。
2011年千葉大学子どものこころの発達研究センター特任助教、学術振興会特別研究員PD、海外特別研究員(ブリティッシュコロンビア大学)を経て、2017年より産業技術総合研究所人工知能研究センター所属、主任研究員。2020年3月に株式会社AiCANを立ち上げ、2022年4月から同社CEOに就任。
――AiCANサービスの導入によって、児童相談所の職員の方々の業務はどう変わるのでしょうか。導入された自治体のお声も交えながら教えてください。
はい。AiCANサービスをお使いいただいた職員の方からよくいただく声をご紹介します。
出先で記録作業ができることそのものを喜んでいただけていますが、例えば子どもを救急外来に連れて行った際の病院の待ち時間や、移動の合間の時間にも記録作業ができます。想像以上に効率的だと喜んでいただけますね。
AiCANサービスは単なる記録システムではなく、アプリ上のヘルプ機能やガイド機能で、何をどのように調べたらいいか、どんなリスクが考えられるのか、なども確認できるようになっています。児童虐待対応の実務経験を踏まえて設計していることもあり、経験が浅い職員の方にも「理解しやすい」という声をいただいています。人材不足により、ベテランの方から網羅的な指導を受ける時間がなかなか捻出できない中、ポイントを押さえながら目の前の案件に集中できるんです。
例えば、保護者の方との面談時に、ホワイトボードで議事録をとることがあります。書き終わった内容を撮影しておき、次の面談のときにそれをお見せするとお話がスムーズです。しかし、カメラで撮影して、所内でプリントアウトして、次回忘れずに持っていく…という作業は、意外と時間・手間がかかります。表立って語られづらいですが、現場にいた経験のある弊社スタッフはこういった作業の積み重ねが職員の方々の負担になることを肌身で感じてきましたので、各面談の記録に紐づけて写真を保存できるような細部のUI/UX設計にもこだわりました。印刷することなく、タブレットのアプリ上ですぐに写真データを取り出して保護者にお見せできるので、事務作業が減ったという声はもちろん、「かゆいところに手が届く」「業務をわかっている人が作ってくれた安心感がある」といったお声をいただいています。
また、こうした「名もなき事務作業」や伝統的に続けられている実は非効率的な業務フローに関するお悩みはよく伺います。職員の方からはなかなか言い出せないものなので、データの利活用に限らず、業務の効率化につなげるためのご提案をさせていただいています。
例えば、以下のようなケースで便利さを実感いただいています。
一時保護されている子どもの面談をして、その子は「おうちに帰りたい」と言っていました。そのことをすぐに面談記録に書き、母親の面談担当者に連絡。そして、母親から面談時に「あの子は何て言っているの?どうせ私のことは嫌いで、帰りたくないと言っているんでしょ」と言われましたが、「いえ、お子さんは帰りたいと言っています」「安全だと判断できればお返しできます」とすぐに伝えることができました。そして、その場で再発防止策を考えてもらう約束を取り付けたのです。
これまでは担当者間の電話がうまくつながらなければ、情報の伝達は「次回面談時まで持ち越し」になってしまったのですが、1回の面談のチャンスを最大限活かすことは対応の質向上につながります。一時保護されてから時間が経つほど、親子ともに心理状態が変わる可能性が高まるんです。
例えば、もともと「親に殴られるのが怖くて家に帰りたくない」と言っていたとしても、小さい子であれば親のもとに帰りたいとか、子どもの年齢・性格によっては日常生活と保護所の生活が違うから「スマホで彼氏/彼女や友達と連絡をとりたい」という気持ちが強まり「保護所から出たい」と言う場合もあります。また、保護者に関しても、急に「もう児童相談所とは会いたくない」と言われて担当者が保護者と面会できなくなることもあるんです。そのため、職員の方々がわかりやすくスピーディに情報共有できるプロダクトづくりを心掛けています。
インターネットを経由しないので、個人情報にあたる写真を安心して共有できる点もご好評いただいています。子どもがけがをしている場合、患部の写真をとって所内で共有し、所長の判断を仰ぐのですが、出先からでもすぐに相談ができるので時間短縮につながります。
これまでは、例えば金曜の17時に通告があると、所内に写真を持ち帰って相談する時間がとれません。土日をはさんで週明けに再び訪問する、という判断をする可能性が高いんですが、その間子どもの身に危険が及ぶリスクがあります。時間短縮できるということは、職員の方の労働時間短縮はもちろん、子どもの安全につながるんです。
AiCANサービスを利用すると、聞くべき項目をあらかじめアプリに登録しておき、全職員が同じ項目を埋めていくことになります。これにより、「人によって調査内容がブレなくなった」というお声をいただきます。職員によって、面談時に聞く項目や調査内容が変わるのはよくあることなのですが、情報をなるべく網羅的に集めることで標準化でき、正確な判断にもつながっていきます。また、同じ条件で集めたデータは信ぴょう性が高いです。
もちろん、全項目埋められないこともありますが、「調査して不明」だったのか、「調査していないのか」がわかることも大きいです。他の機関と連携する際にもスムーズですね。
心理的安全性が高まったという声もよくいただきます。児童相談所の職員の方は、保護者から罵倒されながら面談をすることや、学校の校長室で緊張感のある会議をすることもよくあります。
困難な事例では、3~4時間、場合によっては6時間程度面談に時間がかかることもあります。現場では職員2名体制で臨むことが多いんです。その場にいる二人がこっそり紙にメモを書いてコミュニケーションをとることはありますが、できる場面は限られますし、所長に助けを求めたいこともあります。そんなとき、AiCANサービスを使えばチャットや議事録共有により、遠隔地にいる所長や同僚からサポートを受けられます。所内から、「〇〇のお話をして、話題を変えてみて」「今から呼び出し電話をかけるから、今日は帰ってきて」「校長先生に◯◯と伝えてみて」といったメッセージを受けとれば、判断の質も職員の心理的安全性も向上します。
――ここからは、ありがちな疑問について伺いたいと思います。まずはセキュリティ対策について教えてください。児童虐待対応では、特に個人情報の管理に慎重にならなくてはいけないため、AiCANサービスのセキュリティが気になる方も多いと思います。
AiCANは、会社としてISMSおよびISMSクラウドセキュリティ認証(ISO27001,ISO27017)を取得していますし、AICANサービスは、総務省のガイドラインを遵守しています。
インターネットには接続しないので、外部からのアクセスやハッキングがしにくい仕組みになっています。一般的な通信はスマホ・タブレットなどの端末からデータが基地局に飛び、基地局からインターネットを通じてクラウドに行く…というイメージです。AiCANサービスの場合、基地局からの通信にインターネットを使わず、各通信会社の回線を直接借りて(閉域網)、クラウドへ送るという技術を使っているんです。
他にも、以下のようなセキュリティ対策を講じています。各自治体の情報システム部のご担当者様からも、「この仕組みであれば」とご納得いただいています。
・端末自体にデータを保存できない仕様
・通信・データの暗号化
・端末を紛失した際、リモートで初期化できる機能
・生体認証を含む多要素認証(オプション)
ーー保護者の前でタブレットを出したら、ネガティブな反応をされる…ということはありませんか?
それまでずっと紙のノートを使われていたと思うので、そういった不安な声もよくいただきます。結論から言いますと、使用した職員の皆様からは「タブレットは自然に受け入れられている」「あまり気にされなかった」というご意見をいただいています。
昨今、他の業界でもスマホやタブレットで記録する場面が増えているので、端末で記録することは一般的な光景になっており、嫌悪感を抱く方は少なくなっています。もちろん、保護者から怒鳴られている場面や、暴力を受けそうな緊張感の走る場面では出せないと思いますが、面談時にタブレットで記録をとることについては、あまりご心配いただかなくて大丈夫かと思います。
また、文部科学省のGIGAスクール構想により、ほとんどの公立小中学校で1人1台、パソコンやタブレットなどの端末が用意されています。子どもたちも慣れているので、ある職員の方は、面談の記録を見せたら「ここはこういう意味でいったんだよ」と訂正してくれた、なんて経験もしたそうです。ノートと違って字が読みやすいですし、見せたい部分だけを見せるということもできるので、便利さが勝っていますね。
――中には業務改善をあまりよく思わず、過去のやり方にこだわる方もいらっしゃるのでは…と予想しますが、いかがでしょうか。
そうですね。業務が「見える化」されることで、それまで課題視されていなかった部分の課題があぶりだされることもあります。長く同じやり方をしてきたご担当者から、「わざわざ手間をかけて改善する必要があるのか」という声をいただくこともあります。
もちろん「やらなくてもいい」というご意見も重要ですので、そう思われた理由・根拠などを伺い、基準の検討に活かすようにしています。検討が必要な理由については、「基準があいまいだと年次の浅い方が迷ってしまうので」ということと、「どういう基準にすればいいか具体的に考えるチャンスです」というお話をして、ご協力いただいています。
私自身を含めて現場や研究の経験があるメンバーがいますので、その強みを活かしつつ、地域性や文化も大事にしながら、伴走させていただきたいと思っています。
ーー人によって異なる虐待対応を統一する過程で、もめることはないのでしょうか。
例えば、「一時保護の基準が児童相談所によってバラバラになっている」という課題を持つ自治体様の場合、「こういうケースの時には保護をする」という具体的な基準を提案して、合意いただくことが多いです。ただ、どうしても基準を定める過程で「今まで保護してなかった事例を保護することになる」というお声をいただきます。
保護する量が増えると単純に対応数が増えて、保護者から「子どもを返せ」などと怒鳴られる場面も多くなり、回らなくなる…と不安になる職員の方が多いです。そのお気持ちもよくわかります。我々は、「怒鳴られたときにどう返すか、どのように子どもの安全を主張するか」といったノウハウを研修で提供しているので、研修後は「これならできるかも」と前向きに捉えていただけます。
また、適切に一時保護等の対応ができれば、その後の虐待再発率が下がるというシミュレーション結果も出ています。再発率が下がれば、子どもの危険が減ることはもちろん、職員の皆様の負担が減ります。こういったデータを使った根拠についてもお伝えすると、「だったら一時保護したほうがいい」とご納得いただけることが多いです。
――ありがとうございます。懸念点や困りごとに対して、一つひとつ寄り添っていくというイメージなんですね。
――最後に、AiCANサービスを使って実現したいことや、自治体ご担当者の方へのメッセージもお願いします。
私たちは児童虐待対応DXを目指していますが、ただ既存業務をデジタルに置き換えるだけでは、DXとは言えません。置き換えたときに出てきた業務フローの問題点を解消し、業務のあり方をアップデートしていくというところが本質だと思っています。
児童虐待対応の現場は人手不足で、既存戦力ではやりきれない現状がありますが、なんとかその状況を一緒に乗り越え、一人でも多くの子どもを救うための時間を捻出したいと考えています。そのためには、非効率的な業務を減らし、人間がやらなくていいような業務をテクノロジーに置き換えることが重要です。また、先人たちの失敗談やうまくいった知見を、すぐ目の前のケースに活かせるようにし、対応の質を上げていきたいとも考えています。
ただし、長期的には現場の努力だけでは不十分です。そもそも児童相談所の職員の数が足りないという根本的な課題に対してのアプローチも必要でしょう。国家の児童虐待防止関連の予算を海外と比較したとき、日本は一桁どころか、二桁以上少ないこともあるんです。子どもの安全を守るための予算が上がれば、虐待の再発率が下がるといった利点もあります。
私たちは、児童相談所の職員の存在の重要性を理論化し、科学的な根拠を提示して、政策への反映にもつなげていきたいと考えています。
ーーありがとうございました!
※本記事は、2023年11月時点の取材をもとに制作しています。
(取材・執筆 藤澤佳子)
※本記事は、2023年12月30日掲載弊社サイトコラムからの転載です。
わたしたちは「すべての子どもたちが安全な世界へ変える」というビジョンを掲げ、子ども虐待の見過ごしをゼロにするべく、児童相談所のICT基盤を支えるプラットフォーム「AiCAN」を開発しています。AiCANは、自治体の虐待対応の現場でタブレット用Webアプリを活用していただき、業務を支援するサービスです。
▼AiCANについて、詳しくはこちら
現在すでに1自治体にサービス提供しており、今後さらに対象地域を広げていきます。
事業を拡大していくため、エンジニア、データサイエンティスト、営業職を募集しています!
「子どもが好き」「子どもが生まれてから、色々考えるようになった」「確かに、行政ってデジタル化進んでないかも」「なにか世のためになる仕事がしたい」そんな小さなきっかけでもかまいません!
興味を持ってくださったあなた。まずは代表の髙岡とざっくばらんにお話しませんか?
▼代表のプロフィールはこちら
応募条件やプロダクトの開発環境など、詳細は募集ページをご覧ください。自分らしく働ける職場で、仲間たちと一緒に社会課題解決に取り組んでみませんか?あなたの応募をお待ちしています!
▼詳細はこちら
AiCANでは、定期的にストーリーを更新しています。会社をフォローすると、新たにストーリーが投稿されり・新たに募集が開始されたとき、Wantedly内で通知を受け取ることができます♪
ページを下にスクロールすると出てくる「フォロー」を押して、更新をお待ちください。
Twitter(@AicanInc)でも情報発信しています。
▼こちらから、ぜひフォローよろしくお願いします!
https://twitter.com/AicanInc?s=20&t=dJdtE9HnKz68poTCE6BOhg
ページの下に出てくる「いいね♡」や「シェア」ボタンを押していただけると、執筆の励みになります。
引き続き応援よろしくお願いします!