AIは間違えます。それを前提に作ります
ツールの中でAIに仕事をさせると、もっともらしい嘘が混ざります。 これは設定でなくせるものではないので、間違っても事故にならない形にします。
仕事をツールにする ／ 作るとき
AIを組み込むときの決まり
AIに任せる部分を作るときの、事故を防ぐ4つの決まり。
このレッスンが終わると、AIの出力をそのまま信じさせない作り方ができるようになります。
決まり1：たたき台であることを、画面に書く
出力の近くに、必ず一言入れます。
入れる文の例
「この内容はたたき台です。必ず目を通してから使ってください」
「数字は元のファイルと照らして確認してください」
これだけで、使う人が結果を見る目が変わります。 書いていないと、そのまま資料に貼られ、そのままお客様に出ます。
決まり2：確からしさを一緒に出させる
一覧を出すようなツールでは、1件ごとに「確からしさ」を付けさせます。
| 確からしさ | 使う人がやること |
|---|---|
| 高 | そのまま使ってよい |
| 中 | 元を開いて確認する |
| 低 | 使う前に必ず自分で調べ直す |
実際に起きたこと
競合アカウントを探すツールを作ったとき、 実在しないアカウントが結果に混ざりました。
確からしさを付けていなかったので、そのまま比較表に貼られかけました。 いまは「中・低は必ずリンクを開いて確認する」を画面に書いています。
決まり3：取れないものは、取れないと書く
外部のサービスには、規約上そもそも取得できないデータがあります。 SNSのフォロワー数や、いいね数の一括取得がその例です。
こういうときの作り方
無理に取ろうとせず、手で入れてもらう欄にします。 そのうえで「ここは画面を見て手で入れてください」と書きます。
ごまかして推測値を出すと、その数字が独り歩きします。 空欄のほうが、間違った数字よりずっとましです。
決まり4：途中を見せる
金額・件数・日付など、間違えると困る数字を扱わせるときは、 答えだけでなく計算の途中も出させます。
頼み方の例
合計を、1行ずつ「品目・単価×数量＝小計」の形で見せて。最後に総額も
こうすると、どこで間違えたか一目で分かります。 1行増えるだけで、事故がほぼなくなります。
やってみる：自分のツールに決まりを当てる
手順
レッスン1で選んだ「最初に作るもの」について、4つを埋めてみてください。
- 画面に入れる一言は何にするか
- 確からしさを付ける必要があるか（一覧を出すなら要る）
- 取れないデータはあるか。あれば手入力にするか
- 途中を見せる必要があるか（数字を扱うなら要る）
うまくいくと
4つのうち、少なくとも1と4は埋まるはずです。 埋まらない場合は、そのツールはAIを使わなくてよいかもしれません。 それも1つの答えです。