教育×生成AIをテーマに、教育サービス開発を⼿掛ける株式会社みんがく(東京・⽬⿊区、佐藤 雄太 代表取締役)は、教育現場でChatGPTなど生成AIを安心して利用するためのプラットフォーム「スクールAI」において、Microsoft社のAzure OpenAIによるChatGPT環境を構築し、安全性を高めるアップデートを実施した。

　Microsoft Azureの厳格なセキュリティ基準に準拠したChatGPT環境を提供し、情報セキュリティリスクを回避する機能を標準搭載している。安全性を担保したうえで、教育現場で活用できるChatGPT環境を構築した。
　Azure OpenAI Service の「コンテンツ フィルタリング」では、以下の4つのカテゴリに関して、コンテンツを 4つの重大度レベル (安全、低、中、高) に分類し、それに基づいて入力されたプロンプトの内容と応答を抑制する。

差別・侮蔑表現（Hate）
性的表現（Sexual）
暴力的表現（Violence）
自傷行為にかかわる表現（Self-harm）

「スクールAI」では、対話内容がAI の学習データに利用されることはない。また、先生が生徒の利用状況やログを確認することも可能なので、適切な利用がなされているかを確認でき、教育現場で安心して利用することができる。

「スクールAI」とは教育現場でChatGPTなど生成AIを安心して利用するためのプラットフォーム
　スクールAIは、教育現場でChatGPTなど生成AIを安心して利用するためのプラットフォーム。現場の課題に合わせてカスタマイズでき、各生徒の思考過程をログから確認することができる。これにより、先生はより効果的な指導を実現することができる。ハルシネーション（幻覚）のリスクを最小限に抑える機能や、個人情報を学習しない設計が取り入れられている。文部科学省のガイドラインに対応しているため、教育現場での安心感も高まる。スクールAIは、2023年度の日本Eラーニング大賞「経済産業大臣賞」やAsia Edtech Summit「銀賞」を受賞した「NANDE」の基盤になるなど、今後の教育の質を向上させる革新的なサービスとして注目されている。