みっけは、子どもとAIの関わり方にいちばん厳しい教室でありたいと考えています。
私たちの安全設計を、包み隠さずご説明します。
みっけの一番の安全装置は、AIの機能ではなく「人」です。お子さんとAIの会話は専属講師が日々確認し、AIが見つけた「好き・得意」も、講師が内容を確認・承認してから保護者のみなさまにお届けします。AIの分析がそのまま自動でお子さんの評価になることはありません。
また、教室でのプログラムは講師が同席して進めます。ご家庭での利用は、見守り体制が整った段階で開放する方針です。
お子さんの発言とAIの返答は、会話のたびに安全チェックを通ります。
子どもは時に、大人に言えないことをAIに話します。みっけはこれを重く受け止め、自傷・いじめなどの深刻なサインを検知する仕組みを備えています。検知した場合、AIが解決しようとするのではなく、ただちに講師へ通知され、人間が責任を持って対応します。お子さんにはチャイルドライン(0120-99-7777)などの相談窓口も案内します。
意外に思われるかもしれませんが、お子さんとみっけの会話の原文は、保護者のみなさまにもお見せしません。「なんでも話していい相手」であることが、お子さんの本音を引き出し、本当の「好き」を見つける土台になるからです。
保護者アプリにお届けするのは、講師が確認した要約・個性チャート・お子さん自身が提出した日報です。そして「何が親に見えるか」はお子さん自身にも明示します。隠れて報告される感覚は、子どもとAIの信頼を壊すと考えているからです。
みっけのAIは、長く使わせるためのアプリではありません。1日の利用時間に上限があり、夜はみっけがおやすみします。会話はいつも「今度、実際にやってみよう」「おうちの人にも見せてあげたら?」と、画面の外のリアルな行動につながるよう設計されています。
みっけは自分がAIであることを隠しません。「AIが一番の友だち」になるような演出はしない、と仕様として決めています。
