AIに仕事を任せてみたものの、返ってきた答えをそのまま使うのが少し怖い。そんなふうに感じたことはありませんか。
間違っていたらどうしよう。お客様に出すものだったら責任は誰が取るんだろう。そう考えて、結局自分で全部やり直してしまう。よくあるお話だと思います。
私たちも同じことで悩みました。自社のホームページに、質問に答えてくれるAIの案内役を置いたときのことです。そこで先に決めたのは「何をさせるか」ではなく、「これだけは絶対にさせない」というリストでした。
今日はそのリストの中身と、社内でAIを使い始めるときにそのまま応用できる考え方をご紹介します。
AIは、知らないことでも答えを埋めてしまう
まず起きたことをお話しします。
案内役のAIを動かしてみたところ、私が教えていないことをそれらしく答え始めました。「だいたい30万円くらいでしょうか」「その業界なら1か月で終わります」。どれも私が言った覚えのない話です。
悪気があるわけではありません。AIは聞かれたら答えようとする性質があるので、材料がないと埋めてしまうのです。
お客様相手にこれをやられたら取り返しがつきません。金額や納期の話は、後から「AIが勝手に言ったので」では済まないからです。
そこで方針を変えました。できることを増やす前に、できないことを決める。順番を逆にしたわけです。
実際に決めた6つの「やらせないこと」
うちのAIに書き込んでいる内容です。そのまま真似していただいて構いません。
1. サイトに書いていないことを推測で答えない。分からないときは「そこはお答えできません」と正直に伝える
2. 個別の見積金額、値引き、納期を約束しない。「担当者より個別にご案内します」と返す
3. 契約、法律、税務、助成金の可否を断定しない
4. 相手の名前や連絡先を聞き出さない。必要なときは問い合わせフォームを案内する
5. 事業と関係のない話題に長く付き合わない
6. 毎回同じ書き出しを使わない
3番の助成金は特に気をつけているところです。「使えます」と言い切ってしまうと、後で対象外だったときに大ごとになります。「対象になる場合があります。要件の確認からお手伝いします」まで、と線を引いています。
6番は細かい話ですが、意外と印象を左右します。放っておくと「お問い合わせありがとうございます」から始まる返事を延々と繰り返すので、はっきり禁止しました。
なぜ「できないこと」を先に決めるのか
理由はひとつで、大きく見せると最初のつまずきで一気に信用を失うからです。
何でも答えられるように振る舞わせると、答えられない質問に当たった瞬間に嘘が混ざります。そして人は、10個のうち9個が正しくても、1個の嘘のほうを覚えて帰ります。
逆に、最初から「ここから先は人間が答えます」と線を引いておくと、線の内側の答えは信用してもらえます。守備範囲が狭いことは、弱点ではありませんでした。
これはお客様向けに限った話ではありません。社内でAIを使い始めるときも同じです。「何に使えるか」より先に「これだけは任せない」を決めておくほうが、結局は早く広がります。触る人が安心できるからです。
たとえば、ふだんお使いのAIにもこう伝えておくだけで動きが変わります。
「わからないことは、推測で答えずに『わかりません』と言ってください。金額や納期の判断はしないでください。事実かどうか自信がない部分は、その旨をはっきり書いてください」
もうひとつの決めごと。知識は手で書き写さない
続けるために決めたことがもう1つあります。
AIに持たせる情報を、手で書き写さないこと。
最初は「よくある質問と答え」を手で書いて持たせようとしました。でもすぐ気づきました。料金を変えたら、サービスを増やしたら、そのたびに書き直さなければなりません。まず間違いなく、どこかで更新が止まります。
そこで、ホームページの完成したページそのものを読み込ませて、知識を自動で作る形にしました。今は約2万3千字ぶんです。おかげでサイトの文章を直すと、AIの答えも一緒に新しくなります。二重に管理する場所がないので、食い違いが起きません。
社内のマニュアルやFAQでも同じことが言えます。AIに渡す情報は、すでにある正しいものを指させる。 別の場所に写した瞬間から古くなっていく、と考えておくと安全です。
それで、何が変わったか
正直に申し上げると、問い合わせが急に増えたわけではありません。置いてまだ日が浅いので、効果を語れる段階ではないというのが本当のところです。
はっきり変わったのは、お客様からの「UMEOさんのところではどう使ってるんですか」という質問に、答えられるようになったことでした。
実は以前、この質問にすぐ答えられなかったことがあります。使っていないからではありません。使いすぎていて、どこから話せばいいのか分からなかったのです。議事録、日報、請求書、資料づくり、ファイルの整理。挙げればきりがないのに、いざ人に説明しようとすると出てこない。
毎日使っていることと、それを人に説明できることは、まったく別の能力でした。
線を引く作業は、そのまま説明できる形に整理する作業でもありました。何を任せて何を任せないかを決めないと、人には話せません。逆に決めてしまえば、そのまま説明になります。
そしてお客様の反応がいちばん良かったのは、うまくいった話ではなく、どこで線を引いたかのほうでした。皆さん、失敗したくないからだと思います。
AIを使い始めたばかりでしたら、まず「これだけは任せない」を3つでいいので書き出してみてください。それだけで、ずいぶん気楽に使えるようになります。
みなさんは、AIに「これは任せたくないな」と感じる仕事はありますか。
