小さな会社のAIチャットボット運用
— 最初に決めたい「人に戻す」5つのルール

「AIチャットボットを入れれば、問い合わせ対応が楽になる」——そう思って始めたのに、現場では逆に迷う場面があります。

この質問はAIで返していいのか。個人情報が入っているときは誰が見るのか。料金やキャンセルの話まで自動返信してよいのか。

この記事では、導入前に決めておきたい「人に戻すルール」を5つに絞って整理します。

なぜ、AIに任せる前に「人に戻す」ルールが要るのですか？

AIチャットボットは、人を減らすためだけの道具ではありません。人が見るべき問い合わせを、早く見つけるための道具として設計すると使いやすくなります。

内閣府は「人間中心のAI社会原則」に関する会議資料を公開しています。NISTも、AI RMF 1.0でAIシステムのリスクを管理する枠組みを示しています。OECD.AIの原則でも、透明性、説明可能性、安全性、説明責任が扱われています。

小さな会社の問い合わせ対応に置き換えると、難しい言葉は1つの判断に戻せます。「この返答は、最後に誰が責任を持つのか」です。

ルール1：個人情報が出たら、どこで止めますか？

最初に決める境界線は、個人情報です。個人情報保護委員会は、生成AIサービスの利用に関する注意喚起を公開しています。問い合わせ対応でも、氏名、電話番号、住所、予約番号、相談内容をどう扱うかを先に決めます。

たとえば「山田です。昨日の契約内容を確認したいです。電話番号は090-XXXX-XXXXです」と入力されたら、AIだけで返し続けない。担当者確認に戻す合図を作ります。

IPAの「情報セキュリティ10大脅威 2025」でも、組織向けの脅威として内部不正や不注意による情報漏えいが扱われています。AIだけの話にせず、問い合わせ情報全体の扱いとして見直すほうが安全です。

ルール2：金額・契約・キャンセルは誰が確認しますか？

料金、契約、返金、キャンセルは、少しの言い間違いが大きな不満につながります。AIは「料金ページはこちらです」と案内する。最終判断は担当者が返す。この線引きだけでも、現場の迷いは減ります。

たとえば「今日キャンセルしたら全額返金ですか？」という質問に、AIが断定で返すのは危険です。会社ごとの規約、申込日、支払い方法、例外対応を確認する必要があります。

このルールは「AIが弱いから」ではありません。責任の重い返答を、最初から担当者に戻すための設計です。

ルール3：「わからない」と答える道を残していますか？

AIチャットボットに、何でも答えさせようとすると苦しくなります。FAQにないことは「確認します」と返す。担当者につなぐ。これを正しい動きとして登録しておきます。

お客様から見ても、無理な自動回答より安心です。「担当者が確認して、1営業日以内に返信します」と書かれていれば、待つ理由がわかります。

この記事を書く前に、PromnyAIブログの既存記事19本を見直しました。FAQ、個人情報、社内ルールの記事はありましたが、「AIが答えない条件」を正面から扱う記事はまだありませんでした。

ルール4：週1回、問い合わせログを誰が見ますか？

AIチャットボットは、置いて終わりではありません。週1回15分だけでも、ログを見る時間を決めます。見るのは回答の上手さではなく、人に戻す条件が足りているかです。

デジタル庁の標準ガイドラインページは、共通ルールの下で関係者が協働する考え方を示しています。小さな会社でも同じです。問い合わせ対応は、担当者1人の勘だけで回さないほうが続きます。

ルール5：FAQだけでなく「判断ルール」も学習させていますか？

AIに読ませる情報は、FAQだけでは足りません。「どの質問を人に戻すか」という判断ルールも、会社情報の一部です。

PromnyAIのAI学習データ管理やハブでは、自社情報を整理して活用する流れを作れます。FAQ、公開情報、社内メモ、有人切替ルールを分けておくと、あとから見直しやすくなります。

まとめ：AIチャットボットは、人に戻す道があるほど使いやすくなります

• check_circle個人情報が出たら、AIだけで返し続けないルールを作ります。
• check_circle金額、契約、キャンセル、返金は担当者確認に戻します。
• check_circle「わからない」「確認します」を、正しい回答として用意します。
• check_circle週1回15分、ログを見て有人切替ルールを直します。
• check_circleFAQだけでなく、判断ルールも会社情報として整理します。

AIに任せる範囲を広げるほど、人が戻る入口もはっきりさせる。その順番なら、小さな会社でも運用を始めやすくなります。