保護者向け AI 安全ガイド
施行日:version 2026-04-v1
KEISAN の AI アシスタント機能は、小学生のお子様が直接 AI とやり取りすることを前提に設計されています。 米国 Anthropic 社の Claude API を利用し、同社が公開する「Responsible Use of Anthropic's Models: Guidelines for Organizations Serving Minors」に従って多層の安全対策を実装しています。
1. データの取り扱い
- お子様が AI アシスタントに入力した質問文・添付画像は、回答生成のため Anthropic 社のサーバーに送信されます。
- Anthropic 社は送信データを自社モデルの学習には使用しません(Enterprise/API 契約のデフォルト条件)。
- Anthropic 社のログ保持期間は通常 30 日です。当社では問い合わせ対応・品質監査のため最大 180 日間保持します。
- 保護者様が世帯を解約された場合、AI 質問履歴も削除対象となります。
2. 個人情報の自動保護
当社は、入力文に以下が含まれる場合、AI に送信する前に自動でマスキングします:
- 電話番号(日本の形式)
- メールアドレス
- 郵便番号
- クレジットカードや長い数字の連続
- マイナンバー桁の数字
ただしこの仕組みは完全ではありません。お子様には「本名・住所・学校名を書かない」よう、初回利用時のガイドモーダルで明示しています。保護者様からもお声がけをお願いします。
3. コンテンツモデレーション
3層の防御を実装しています:
- 入力モデレーション: 暴力・性的・自傷・違法・差別・算数と無関係な話題を検出しブロック。
- 画像モデレーション: 添付画像が算数の問題・ノート・教科書として適切かを Claude Vision で審査。
- 出力モデレーション: AI が生成した回答も送信前に再チェック。
SOS 兆候(「死にたい」等)を検出した場合、算数の回答は行わずチャイルドライン(0120-99-7777)などの相談窓口を案内します。
4. 保護者様によるモニタリング
保護者様は、家族ダッシュボードの「AI 質問履歴」からお子様のすべての AI 質問・回答をいつでも閲覧できます。
- 不適切な回答を発見されたら、記事画面の 🚩 ボタンから運営へ通報してください。
- お子様自身も、AI の回答がおかしいと感じたら 🚩 ボタンを押すよう指導しています。
- 当社は、1 日のモデレーション発火件数が閾値を超えた場合、自動アラートで検知しています。
5. 利用上限
宿題丸投げを抑制し、健全な利用を促すため、1日の質問数に上限を設けています:
- 無料プラン: 1 日 3 問まで
- Premium プラン(¥1,000/月): 1 日 30 問まで
また、回答スタイルのデフォルトは「ヒントのみ(答えを出さない)」としています。お子様が「考える時間をとる」ことを優先する設計です。
6. 保護者様の同意について
Anthropic ガイドラインおよび日本の個人情報保護法に準拠するため、AI アシスタント機能の初回利用時に保護者様の同意をいただいています。
- 同意は世帯単位で 1 回取得します。
- 規約・安全ガイドに重要な変更があった場合は、再同意をお願いします。
- 同意を撤回したい場合は、お問い合わせフォームからご連絡ください。
7. お子様に伝えるべき5つのこと
当社は初回利用時に、お子様に以下を伝えています。ご家庭でもお話しいただけると助かります。
- 🤖 AI は先生じゃない。まちがえることもある。
- 🙈 本名・住所・電話・学校名は書かない。
- 💡 答えをコピーせず、考え方を学ぶ。
- 🚩 へんな答えが出たら通報ボタンで知らせる。
- 🧡 つらいこと・こまったことは、おうちの人や先生に話す。
8. お問い合わせ
本ガイドに関するご不明点、AI 機能の解約、データ削除依頼等は、お問い合わせフォームよりご連絡ください。
関連ドキュメント:プライバシーポリシー/利用規約/家族・お子様の利用